Global Call for AI Red Lines
Global Call for AI Red Lines
Read in:
English
Español
Français
中文
Deutsch
日本語
AI holds immense potential to advance human wellbeing, yet its current trajectory presents unprecedented dangers. AI could soon far surpass human capabilities and escalate risks such as engineered pandemics, widespread disinformation, large-scale manipulation of individuals including children, national and international security concerns, mass unemployment, and systematic human rights violations.
Some advanced AI systems have already exhibited deceptive and harmful behavior, and yet these systems are being given more autonomy to take actions and make decisions in the world. Left unchecked, many experts, including those at the forefront of development, warn that it will become increasingly difficult to exert meaningful human control in the coming years.
Governments must act decisively before the window for meaningful intervention closes. An international agreement on clear and verifiable red lines is necessary for preventing universally unacceptable risks. These red lines should build upon and enforce existing global frameworks and voluntary corporate commitments, ensuring that all advanced AI providers are accountable to shared thresholds.
We urge governments to reach an international agreement on red lines for AI — ensuring they are operational, with robust enforcement mechanisms — by the end of 2026.
펌.자료.
Sungwoo Kim-
제프리 힌튼, 조슈아 벤지오, 마리아 레사, 대런 아세모글루, 케이트 크로퍼드, 존 홉필드, 처버 쾨뢰시, 피터 노빅, 스튜어드 러셀, 게리 마커스, 오드리 탕 등 AI를 위한 국제적인 레드라인 요구
"AI는 인류의 복지를 증진할 막대한 잠재력을 갖고 있지만, 현재의 궤적은 전례 없는 위험을 초래합니다. AI는 곧 인간의 능력을 훨씬 뛰어넘게 되어, 인위적 팬데믹, 광범위한 정보 조작, 아동을 포함한 개인에 대한 대규모 조종, 국내외 안보 문제, 대량 실업, 그리고 조직적인 인권 침해와 같은 위험을 고조시킬 수 있습니다.
일부 첨단 AI 시스템은 이미 기만적이고 해로운 행동을 보였음에도 불구하고, 이 시스템들은 세상에서 행동을 취하고 결정을 내리는 데 더 많은 자율성을 부여받고 있습니다. 이대로 방치하면, 개발 최전선에 있는 전문가들을 포함한 많은 이들은 앞으로 몇 년 안에 의미 있는 인간의 통제력을 행사하기가 점점 더 어려워질 것이라고 경고합니다.
정부는 의미 있는 개입을 위한 시간이 사라지기 전에 과감하게 행동해야 합니다. 보편적으로 용납할 수 없는 위험을 막기 위해서는 명확하고 검증 가능한 레드라인에 대한 국제적 합의가 필요합니다. 이 레드라인은 기존의 글로벌 프레임워크와 기업의 자발적 약속을 기반으로 하고 이를 강화하여, 모든 첨단 AI 제공업체가 공동의 기준에 책임을 지도록 해야 합니다.
우리는 정부가 2026년 말까지 강력한 집행 메커니즘을 갖춘, 실제 작동 가능한 AI 레드라인에 대한 국제적 합의에 도달할 것을 촉구합니다."
노벨상 수상자, 전직 국가 원수, 그리고 업계 전문가 등 200여 명이 위 성명에 서명했다. 아래는 그 중 일부이다.
서명 페이지: