- ‘허용할 수 없는’ 인공지능과 ‘고위험’ 인공지능 등 구분
- AI 기술의 윤리적 사용… 국제적 논의 가속화
얼마 전, CNN의 보도에 따르면 미국 국무부는 AI 정책 자문기관인 ‘글래드스턴 AI’에 AI의 위험성과 관련한 연구를 의뢰했으며, AI 보고서에는 충격적인 내용이 담긴 것으로 나타났다. “최악의 경우 가장 발전한 AI 시스템이 인류에게 멸종 수준의 위협을 가할 수 있다”.
인류의 멸종 수준의 경고. 그 동안 AI 기술의 발전은 인간이 영위하고 있는 테두리를 조금씩 옥죄는 등 인간의 활동 범위를 줄이고 있었으며, 표면적으로 인지할 수 있는 대표적인 예로는 인간의 업무를 대체하는 등 생산 산업 부분의 등장이었다. 고금리에 따른 기업의 비용절감 차원에서의 해고가 이제는 인간의 일자리를 대처하는 인공지능의 발전으로 그 영역이 확대되고 있다.
이에 유럽 연합 (EU) 의회는 15일(현지시간), 획기적인 인공지능 규제법을 최종 승인했다고 밝혔다. 이는 미국을 다시 한 번 앞서서 중요하고 급격한 변화를 가져올 새로운 기술을 규제하는 것이다. 그렇다고 미국도 이러한 움직임이 없는 것은 아니다. 미 의회는 새로운 AI 감독 기관과 긴급 규제 안전장치를 만드는 것은 물론, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다.
이번에 통과된 AI 규제 법안은 유럽 기업과 기관들이 의료 결정부터 치안 유지에 이르기까지 모든 분야에서 인공지능을 활용하는 방식을 재편하는 데 중요한 역할을 할 것으로 예상된다.
해당 법안은 ‘허용할 수 없는’ 인공지능 사용을 완전히 금지하는 동시에 ‘고위험’으로 간주되는 다른 응용 프로그램에 대해 엄격한 규제를 시행할 것으로 보인다. 예를 들어, 인공지능을 활용한 사회 신용 점수 시스템과 사람의 인종, 정치적 성향 또는 성적 취향을 추측하는 모든 생체 인증 기반 도구를 금지하고 한다. 또한 학교 및 직장에서 사람들의 감정을 해석하는 인공지능 사용과 미래 범죄 가능성을 예측하기 위해 의도된 특정 유형의 자동 프로파일링도 금지된다.
한편 교육, 채용, 정부 서비스 이용 등 ‘고위험’ 인공지능 대해서는 별도의 범주를 설정하고, 해당 사용에 대해 투명성과 기타 의무를 따로 적용할 방침이다.
OpenAI와 같은 강력하고 복잡하며 널리 사용되는 인공지능 모델을 개발하는 기업의 경우, 새로운 정보 공개 요구 사항을 준수해야 한다. 또한 허위 정보 및 선거 개입을 야기할 수 있는 조작된 미디어에 대한 우려를 해결하기 위해 모든 인공지능으로 생성된 딥페이크(deepfake)는 명확하게 표시되어야 한다.
AI 규제법은 약 2년 후 시행될 예정이지만, 광범위한 규제를 품고 있는 AI 규제법은 유럽 의회 정책 입안자들이 OpenAI의 ChatGPT와 같은 도구의 폭발적인 인기에 얼마나 빠르게 대응했는지를 보여주고 있다. 그 만큼 AI 기술은 빠르고 지속적으로 발전하고 있으며, 다양한 기업에서 기술 발전을 위한 투자를 감행하고 있다.
반면 미국은 아직 의미 있는 연방 AI 규제 법안을 만들지 못하고 있다. 척 슈머(Chuck Schumer) 미국 상원 민주당 원내대표는 지난해 AI 규제를 의제 최우선순위에 넣었지만, 아직까지 구체적인 진전은 이루어지지 않고 있다.
이번 EU의 획기적인 ‘AI 규제법’ 통과는 AI 기술의 윤리적 사용을 위한 국제적 논의를 가속화할 것으로 예상된다.
