AI 서울 정상회의 개최, 규제 나서는 전세계

 

🤖 기술의 발전은 항상 양날의 검과 같습니다. 최근엔 인공지능(AI)이 전례 없는 위협을 가져올 수도 있다는 우려를 낳는데요. 세계 각국 정부와 관련 기업은 AI 개발 및 발전을 도모하는 동시에 규제를 씌우려는 움직임에도 속도를 냅니다.

---

AI, 이거 무섭네

💣 상상도 못 한 부작용

AI 기술을 향한 걱정은 끊이질 않았습니다. AI 기술을 활용해 가짜 이미지, 영상, 목소리 등을 만드는 딥페이크 기술이 대표 사례죠. 기술이 악용되기 십상이기 때문인데요.

 

미국 대선을 앞두고 바이든 대통령의 목소리를 사칭한 전화가 돌기도 하고, 지인을 사칭해 돈을 송금하도록 하는 등의 금융 사기도 확산합니다. 부정확한 정보를 포함하는 AI에 과하게 의존하거나, AI 기술이 생물학 무기 생성에 쓰일 수도 있죠.

🔚 AGI 공포까지

사람처럼 스스로 학습하고 판단하는 인지능력을 갖춘 인공일반지능(AGI)에 대한 우려는 더욱 큽니다. 미국의 한 보고서는 사람 지능을 뛰어넘는 AGI의 등장이 인류를 멸종으로 이끌지도 모른다고 경고하기도 했죠. AGI가 생화학전, 사이버 전쟁 등에 무기로 활용될 수 있을뿐더러, 사람의 심리를 파고들며 AI에 대한 인간의 통제력을 잃게 한다는 겁니다.

 

🔍 인공일반지능(AGI, Artificial General Intelligence): 인간 이상의 지능을 갖춘 AI를 의미합니다. 인간과 같은 인지능력을 바탕으로 스스로 학습할 수 있는 것이 특징인데요. 사전에 입력된 정보나 변수 내에서만 작동하는 것을 넘어 자율적인 학습 능력으로 제작 당시에는 학습받지 못했던 작업도 수행할 수 있습니다.

 

🌍 규제 나선 전 세계

AI로 인한 문제 사례가 잇따르면서 AI 기술 활용을 통제해야 한다는 목소리가 커집니다. 이에 각국 정부는 안전한 AI 활용을 위한 규범을 마련하고 나섰는데요.

 

지난 21일(현지 시각), 유럽 연합(EU)은 세계 최초로 AI 활용을 규제하는 ‘AI 법’을 최종 승인했습니다. 미국은 지난달 AI의 안전한 사용을 위한 자문기구인 ‘AI 안전 보안이사회’를 결성했죠. 여러 국가와 국제기구가 힘을 합쳐 AI 거버넌스를 구축해 AI 관련 위험을 체계적으로 관리해야 한다는 주장에도 힘이 실립니다.

---

AI 서울 정상회의에선 어떤 일이?

🖥️ 뭐 하는 회의야?

지난 21~22일 열린 ‘AI 서울 정상회의’도 AI 규제 움직임의 일환입니다. 작년 영국에서 개최된 ‘AI 안전성 정상회의’의 후속 회의로, 윤석열 대통령과 리시 수낵 영국 총리가 공동 주재했는데요.

 

주요국 정상이 모인 영국에서의 1차 회의는 AI의 위험성에 대한 인식을 공유하고 협력하자는 내용이 핵심이었습니다. 이번 정상회의에선 AI를 둘러싼 안전뿐 아니라 혁신, 포용성 등으로 논의의 폭이 넓어졌다는 평가가 나오죠. 3차 회의는 ‘AI 행동 정상회의'로, 프랑스에서 열릴 예정입니다.

 

📍 서울 선언 발표

21일 온라인으로 열린 회의에서는 ‘서울 선언’이 채택됐습니다. 한국을 비롯해 G7, EU, 호주, 싱가포르 등의 정상이 참여했는데요. 선언의 핵심은 AI를 주제로 한 국제적 논의에서 안전·혁신·포용성을 우선순위에 두기로 한 것입니다. 윤석열 대통령은 이를 AI 거버넌스 3원칙으로 제시하기도 했습니다.

✨ 무슨 얘기냐면

구체적으로는 거주 지역이나 소득 수준에 상관없이 누구나 AI의 혜택을 누릴 수 있어야 한다는 내용이 포함됐습니다. AI의 개발과 사용에서 안전성, 보안성, 신뢰성을 전제해야 한다는 내용도 있죠.

 

서울 선언과 함께 회의 부속서인 ‘서울 의향서’도 발표됐는데요. AI 안전연구소와 같은 AI 연구·감독 기관 설립에 뜻을 모으고, 민주주의적 가치 증진과 사생활 보호 등에 AI를 활용하겠다는 내용이 담겼습니다.

🏢 강조되는 기업 책임

한편, AI 관련 기업의 책임을 강조한 점도 주목할 만합니다. 서울 선언에서 “프런티어 AI를 개발하고 배치하는 단체들의 특별한 책임을 인식한다”라고 명시한 건데요. 프런티어 AI는 다양한 작업을 수행할 수 있는 고도의 AI 모델을 의미합니다.

---

서울 AI 기업 서약도 나왔다

🤝 전 세계 기업의 약속

회의 이틀 차인 22일에는 국내외 주요 AI 관련 기업 14곳이 ‘서울 AI 기업 서약’을 발표했습니다. 오픈AI, 구글, 마이크로소프트 등 내로라하는 해외 빅테크 기업부터 네이버, 카카오, 삼성전자, SKT 등 국내 대표 기업까지 서약에 참여했습니다.

 

📝 뭘 약속했는데?

서약에는 AI로 만들어진 콘텐츠에 워터마크를 표시하며, 지속 가능한 AI의 발전을 위해 시스템 개발에 투자하고 전문 인재를 양성한다는 내용이 담겼습니다. AI 혜택의 공평성을 보장할 수 있도록 사회적 취약 계층을 위한 AI 서비스의 출시도 약속했죠. 다양성과 포용성을 장려하기 위해 글로벌 난제 해결을 위한 AI 솔루션을 개발한다는 내용도 있습니다.