▲강지원 법무법인 태평양 변호사는 10일 에너지경제신문과 법무법인 태평양이 서울 중구 대한상공회의소서 공동 개최한 ‘AI 시대의 에너지법·정책과 ESG’ 세미나에서 주제발표하고 있다. 사진= 유병욱 기자
국내 에너지·원자력 산업 생태계에서 인공지능(AI)을 활용하려는 시도가 이어지면서 AI 기본법을 준수해야 하는 게 업계의 주요 과제로 떠올랐다. AI 기본법상 ‘고영향 AI’ 영역에 포함돼 규제 영향을 받게 될 가능성이 높아진 만큼, 각 기업별 AI 거버넌스를 보다 체계·고도화할 필요성이 제기된다.
강지원 법무법인(유한) 태평양 변호사는 10일 서울 중구 대한상공회의소에서 에너지경제신문과 법무법인 태평양이 공동 개최한 ‘AI 시대의 에너지법·정책과 ESG’ 세미나에서 “실제 제어나 운영 단계에서 AI 도입이 확산되면서 고영향 AI에 해당될 가능성이 점차 빠르게 늘어나고 있다”고 강조했다.
AI 기본법은 사람의 생명·신체 안전 등에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 AI를 고영향 AI로 규정한다. 에너지업계와 직접 연관된 ‘에너지의 공급’과 ‘핵물질 및 원자력시설의 안전한 관리·운영’도 여기에 포함된다.
강 변호사는 “업체 내부적으로 생각하는 고영향 AI 범위와 법상 인정되는 범위 사이에 간극이 있을 수 있다”며 “정부에서도 이 부분을 넓게 보겠다는 입장이기 때문에 각 기업별로 사전 점검할 필요가 있다”고 말했다.
전력 분야에서는 △기능 중요도 △시스템 신뢰성 △데이터 정확성·처리능력 △자율성·의사결정능력 △잠재적 위험성 등을 기준으로 고영향 여부를 판단한다. 이 가운데 기능 중요도와 잠재적 위험성은 일정 기준을 충족하면 다른 요소와 관계없이 고영향 AI로 판단될 수 있는 핵심 기준이다.
강 변호사는 “특정 AI 시스템에 문제가 생겨 대규모 정전사태가 발생하거나 넓은 지역에서 전력공급이 중단될 수 있는 정도의 위험성이 있다면 고영향에 해당할 수 있다”며 “사람의 검토나 확인 없이 AI가 판단이나 기능 실행을 자동적으로 할 경우에도 고영향에 해당할 가능성이 높다”고 설명했다.
원자력 분야의 규제 범위 역시 폭넓다. 원자력시설 설비별 안전등급 1·2·3등급의 안전기능을 AI가 수행할 경우 별도의 조건을 따지지 않고 고영향 AI로 판단된다. 비안전등급 설비도 수행 기능에 따라 고영향으로 분류될 수 있다는 게 강 변호사의 설명이다.
그는 “원자력은 전력보다 고영향 판단 기준이 훨씬 넓다”며 “안전등급 1·2·3에 해당할 경우 다른 것을 고려할 필요 없이 고영향이고, 비안전등급으로 분류되더라도 안전에 미치는 영향이 높은 기능을 수행할 경우 고영향이 될 수 있다”고 했다.
이처럼 에너지 업계의 AI 전환 시도가 곧 규제 영향권 편입 가능성을 키우면서, 각 기업들이 이에 대응하기 위해 AI 도입부터 운영까지 전 과정을 아우르는 전사적 AI 거버넌스를 체계·고도화할 필요가 있다고 강 변호사는 제언했다.
그는 우선 기업 내부에서 활용 중인 AI 시스템을 전수 파악하는 작업이 선행돼야 한다고 봤다. 같은 기업에서도 각 시스템별로 AI 기본법상 사업자 지위와 고영향 여부가 달라질 수 있기 때문이다.
강 변호사는 “한 회사에서 50개 정도의 AI 시스템을 사용한다면 각 시스템별로 AI 여부와 사업자 지위, 고영향 여부를 확인해야 한다”며 “어떤 근거로 고영향 여부를 판단했는지도 내부적으로 문서화할 필요가 있다”고 말했다.
그는 관리 범위를 고영향 AI에 국한하기보다 자체 위험도에 따라 고·중·저 등으로 세분화할 필요가 있다고도 조언했다. 위험 수준에 따라 내부 승인과 관리 강도를 차등화하고 관련 기준과 내규를 마련하는 방식이다.
AI 위험관리 조직의 독립성 확보도 주요 과제로 지목됐다. 강 변호사는 “AX 조직은 AI 도입을 최대한 확대·활성화하는 임무를 갖지만 위험관리 전담조직은 반대편에서 역할을 수행해야 한다”며 “위험관리 조직을 AX 조직 아래에 둘 경우 이해상충 문제가 생길 수 있다”고 지적했다.
각 부서에 흩어진 AI 활용과 위험관리를 총괄할 컨트롤타워 구축도 제언했다. 강 변호사는 “AI를 도입하고 활용하려면 전사적으로 여러 부서가 관리에 개입해야 하기 때문에 결국 컨트롤타워가 필요하다”며 “준법 감시를 넘어 운영 효율성과 리스크를 선제적으로 관리하는 컴플라이언스로 나아가야 한다”고 강조했다.
박주성 기자 wn107@ekn.kr
