2024년 7월 4일, 세계인공지능대회 및 인공지능 글로벌 거버넌스 고위급 회의(World AI Conference and High-Level Meeting On Global AI Governance, WAIC)가 상하이에서 개막했다. '공동 논의에 기초한 공유 촉진, 선한 거버넌스를 통한 선한 인공지능 촉진(Governing AI for Good and for All)'이라는 주제로 개최된 이번 대회 개막식에서 상하이는 전 세계에 '인공지능 글로벌 거버넌스 상하이 선언'을 발표하였다. 그 내용을 요약하면 다음과 같다.

우리는 인공지능이 세계에 미치는 심오한 영향과 막대한 잠재력을 깊이 인식하고 있으며, 인공지능이 과학기술 혁명을 이끌며 인류의 생산과 생활에 깊은 영향을 미치고 있음을 인식하고 있다. 인공지능 기술이 빠르게 발전함에 따라 우리는 특히 안전과 윤리 측면에서 전례 없는 도전에 직면하고 있다.

우리는 인공지능 기술의 발전과 응용을 공동으로 촉진할 필요성을 강조하며, 동시에 그 발전 과정에서의 안전성, 신뢰성, 통제 가능성과 공정성을 보장하고 인공지능 기술이 인류 사회 발전에 기여하도록 촉진해야 함을 강조한다. 우리는 전 세계적인 협력과 노력을 통해서만 인공지능의 잠재력을 충분히 발휘하여 인류에게 더 큰 복지를 가져다줄 수 있다고 믿는다.

1. 인공지능 발전 촉진

우리는 인공지능 연구개발을 적극적으로 추진하여 의료, 교육, 교통, 농업, 산업, 문화, 생태 등 각 분야에서 인공지능의 응용 잠재력을 최대한 발휘하고자 한다. 혁신적인 사고를 장려하고, 학제적 연구 협력을 지원하여, 인공지능 기술의 돌파와 긍정적인 발전을 함께 추진한다. 인공지능이 취업에 미치는 영향을 염려하고 완화하여, 인공지능이 인류의 업무 질과 효율을 향상시킬 수 있도록 유도하고 촉진한다.

개방과 공유의 정신을 주창하며, 전 세계 인공지능 연구 자원의 교류와 협력을 추진한다. 협력 플랫폼을 구축하며 기술 이전과 성과 전환을 촉진하고, 인공지능 인프라의 공정한 분배를 추진하며, 기술 장벽을 허물고, 글로벌 인공지능 발전 수준을 공동으로 향상시킨다.

고수준의 데이터 보안을 통해 고품질 데이터 발전을 보장하고, 법률에 의해 데이터의 질서있고 자유로운 흐름을 추진하며, 차별적이고 배타적인 데이터 훈련을 반대한다. 또한, 협력을 통해 고품질 데이터 세트를 구축하여 인공지능 발전에 더 많은 영양분을 제공한다.

협력 메커니즘을 구축하고 인공지능이 다양한 업종에 걸쳐 능력을 발휘하도록 대대적으로 추진하며, 제조, 물류, 채광 등 분야에서 지능화를 가속화하고, 관련 기술과 표준의 공용과 공유를 동시에 추진한다.

더 많은 인공지능 전문 인재를 육성하기 위해 교육 훈련과 인재 교류 협력을 강화하고, 전 세계적으로  인공지능 소양과 기술 수준을 향상시킨다.

사람 중심, 선한 지능의 원칙을 고수할 것을 각국에 촉구한다. 인공지능 기술을 개발하고 활용하는 데 있어 권리 평등, 기회 평등, 규칙 평등을 보장할 것을 각국에 호소하고, 어떠한 형태의 차별도 받지 않기를 바란다.

각국의 자주적인 발전 권리를 존중하며, 자국의 실정에 맞춰 인공지능 전략 정책과 법률을 제정하도록 격려한다. 인공지능 기술, 제품 및 응용의 국제 협력에서 제품과 서비스 대상국의 법률을 준수하고, 적용 가능한 국제법을 준수하며, 그들의 경제 사회 제도, 종교 문화 전통 및 가치관을 존중하는 것을 촉구한다.

2. 인공지능 보안 유지

우리는 인공지능의 보안 문제, 특히 데이터 보안과 개인정보 보호에 대해 매우 중요시하며, 데이터 보호 규칙의 제정을 추진하고, 각국의 데이터 및 정보 보호 정책의 상호 운용성을 강화하며 개인 정보의 보호와 합법적인 사용을 보장하고자 한다.

우리는 규제를 강화하여 심사, 감독, 추적, 신뢰가 가능한 인공지능 기술이 필요하다는 데 인식을 같이하고 있다. 우리는 발전적인 안목으로 문제를 바라보며, 인간의 결정과 규제 하에 인공지능 기술을 이용해 인공지능의 리스크를 방지하고, 인공지능 거버넌스의 기술 역량을 향상시키고자 한다. 우리는 각국이 자국 실정에 맞게 적절한 법률과 규범을 제정하고, 리스크 등급 테스트 평가 체계와 과학기술 윤리 심사 제도를 구축하는 것을 격려한다. 이를 바탕으로 업계가 자율 규범을 더 신속하고 민첩하게 제정할 것을 권장한다.

우리는 인공지능 관련 사이버 보안을 강화하고, 시스템 및 응용 프로그램의 안전성과 신뢰성을 높이며, 해킹 공격과 악성 소프트웨어의 사용을 방지하고자 한다. 국제 및 중국 법률 프레임워크를 존중하는 전제 하에, 여론 조작과 허위 정보 제작 및 유포 행위를 공동으로 단속한다.

테러리즘, 극단주의 세력, 국제 범죄 조직이 인공지능 기술을 이용해 불법 행위를 저지르는 것에 서로 협력하여 방지하고, 개인 정보의 도용, 변조, 유출 및 불법 수집과 이용을 공동으로 단속한다.

광범위한 국제적 합의를 가진 인공지능 윤리 지침과 규범을 제정하고 채택하는 것을 추진하며, 인공지능 기술의 건전한 발전을 유도하고, 오용, 남용 또는 악용 행위를 방지하고자 한다.

3. 인공지능 거버넌스 체계 구축

우리는 글로벌 차원의 인공지능 거버넌스 메커니즘의 구축을 지지하며, 유엔이 주도적인 역할을 수행할 것을 지지한다. 또한, 남북 협력과 남남 협력을 강화하여 개발도상국의 대표성과 발언권을 높이는 것을 옹호한다. 우리는 국제 기구, 기업, 연구 기관, 사회 단체, 개인 등 다양한 주체가 각자에 맞는 역할을 수행하여 인공지능 거버넌스 체계의 구축과 실행에 참여할 것을 적극 권장한다.

우리는 국제 기구 및 전문 기관 등과의 협력을 강화하며 인공지능의 테스트, 평가, 인증 및 규제 정책 실천을 공유하고, 인공지능 기술의 안전성, 통제 가능성 및 신뢰성을 보장하고자 한다.

인공지능의 규제와 책임 추궁 메커니즘을 강화하여 인공지능 기술의 준법 사용과 책임 추궁을 보장한다.

4. 사회 참여 강화와 대중 소양 향상

우리는 다양한 참여 메커니즘을 구축하여, 공개 의견 수렴, 사회 조사 등을 포함한 여러가지 방식을 통해 대중이 인공지능 결정 과정에 참여할 수 있도록 하고자 한다.

대중의 인공지능에 대한 인식과 이해를 강화하고, 인공지능 안전성에 대한 대중의 인식을 높이고자 한다. 과학 대중화 활동을 통해 인공지능 지식을 전파하여, 대중의 디지털 소양과 보안 의식을 높이고자 한다.

5. 삶의 질 향상과 사회 복지 증진

우리는 산업 혁신, 환경 보호, 자원 활용, 에너지 관리, 생물 다양성 촉진 등을 포함한 지속 가능한 발전 분야에서 인공지능의 응용을 적극적으로 추진하고자 한다.  혁신적인 사고를 격려하고, 인공지능 기술이 글로벌 문제 해결에서의 잠재력과 기여를 탐구할 것이다.

특히 의료, 교육, 노인 봉양 등의 분야에서 인공지능을 활용하여 사회 복지를 향상시키는 데 전념할 것이다.

우리는 이 선언을 이행하기 위해서 우리 모두의 공동 노력이 필요하다는 것을 깊이 인식하고 있다. 우리는 각국 정부, 과학계, 산업계 등 이해 관계자들이 적극적으로 호응하여 인공지능의 건전한 발전을 공동으로 촉진하고, 인공지능의 안전을 공동으로 수호하며, 인류의 공동 미래를 위해 함께 노력하기를 기대한다.

출처: 상하이 외사(上海外事)