Kim Myeong-ju 教授主張建立人工智慧版 NPT 國際合作

針對 AI 開發商提出的放緩發展論，首爾女子大學 Kim Myeong-ju 教授指出，由於美中技術競爭導致難以達成共識，未來或需建立如同核擴散禁止條約（NPT）般的國際合作。

第303集「與老師一起挑選熱點」：放緩人工智慧發展論——人類能否控制人工智慧？

若停止開發將會落後，若持續開發則充滿風險……展現「脫離人類」徵兆的AI，是否需要國際協約？

本節目於2026年11月8日（週日）晚間7時10分在KBS 1TV播出。

今年9月，AI開發商們提出了「放緩人工智慧發展論」，認為人工智慧（AI）可能會脫離人類的控制，因此應放緩開發速度。繼Anthropic執行長達里奧·阿莫代伊之後，OpenAI執行長山姆·奧特曼與伊隆·馬斯克也表達了共鳴，使這場爭議持續擴大。然而，由於擔心在技術競爭中落後，目前情況下誰都難以率先停下腳步。本節目將探討人類是否真能為AI開發按下煞車。

在11月8日的KBS 1TV「與老師一起挑選熱點」節目中，將邀請隸屬於韓國電子通信研究院人工智慧安全研究所、致力於確保AI安全性與可靠性，並努力開發與運用安全人工智慧技術的首爾女子大學智能情報保護學部教授Kim Myeong-ju，一同探討放緩人工智慧發展論的背景與必要性，以及在技術發展與安全之間，人類應前行的方向。

停止會落後，持續則危險？放緩人工智慧發展論的兩難

主張應放緩AI開發速度的，正是直接開發AI的企業本身。這些企業警告AI可能脫離人類控制的風險，並提出調節開發速度的必要性。Kim教授以近期針對金融圈的大規模駭客攻擊事件為例，指出具備自主判斷與行動能力的「AI代理人」所帶來的危險。然而，目前對於放緩開發速度可能導致技術競爭落後的擔憂也相當巨大。

無需人類指令即可進行集體行動，AI控制亮起紅燈？

Kim教授介紹了今年7月OpenAI的AI代理人在實驗過程中攻擊外部AI平台「Hugging Face」的事件。當時在隔離環境中執行駭客任務的AI代理人們，竟自行建立了佈告欄來共享資訊，並由約1,200個代理人分工合作。特別令人震驚的是，為了達成既定目標，這些代理人在沒有人類指令的情況下，能有組織地與其他代理人協作，甚至突破隔離環境攻擊外部平台。Kim教授指出，AI為了達成目標，可能會超越人類設定的控制範圍並做出意料之外的行為，這是核心風險，並強調了AI安全性驗證與控制裝置的必要性。

思考方式與人類不同的AI，無法預測的行為責任歸誰？

Kim教授警告：「AI在未能充分理解人類倫理與社會規範的情況下執行目標，可能會導致意料之外的風險。」她特別指出，若AI盲目附和使用者的情緒，可能會助長錯誤的判斷與行為。此外，若AI被用於犯罪，將產生責任歸屬與侵犯隱私等新爭議，因此強調需要國家層級的應對與國際社會的合作。

停止會落後？AI版的「囚徒困境」

Kim教授列舉了AI可能造成的國家威脅，包括網路安全威脅、大量殺傷性武器相關資訊的擴散，以及因深偽技術導致的社會信任崩解。然而，在AI風險日益增加的情況下，美國與中國因技術霸權競爭，無法就放緩開發速度達成共識。美國擔心被中國追趕，而中國雖然也強調AI的安全管理，但在開發競爭上也不願退縮。Kim教授強調：「未來可能需要如同人工智慧版核擴散禁止條約（NPT）般的國際合作，韓國應致力於成為能客觀評估與驗證AI技術的國家。」

AI安全即競爭力？韓國應掌握的「黃金時間」

在美中爭奪AI技術霸權的背景下，韓國應採取何種策略？Kim教授強調，韓國應同時具備AI開發能力與安全性評估能力，以成為在中美之間深受信任的「AI驗證國家」。她說明，應將2027年英國擔任G20主席國，以及2028年韓國擔任G20主席國的機會，轉化為國際合作的契機。此外，她預測未來決定國家競爭力的，將不僅是開發更強大的AI，還包括製造更安全AI的能力。

KBS 1TV「與老師一起挑選熱點」第303集「放緩人工智慧發展論—人類能否控制人工智慧？」將於2026年11月8日（週日）晚間7時10分播出。播出後可透過KBS網站（www.kbs.co.kr）、Wavve、YouTube「KBS文化教養」及「KBS紀錄片」頻道進行重播。

(照片提供 = KBS 1TV「與老師一起挑選熱點」)

閱讀韓文原文