警告超智慧風險的 Eliezer Yudkowsky 5日首度訪韓

第22屆「SBS D論壇（SDF）」將於5日在東大門設計廣場舉行，屆時AI安全先驅 Eliezer Yudkowsky 將首度訪韓，針對人類在邁向超智慧路徑上可能面臨的風險發出警告。

第22屆「SBS D論壇（SDF）」將於5日（週四）在東大門設計廣場（DDP）舉行。本次論壇以「替代智能時代，探問思考主權」為主題，匯集了AI安全、哲學、腦科學及文化藝術領域的國內外專家，共同探討AI時代人類應邁向何方。隨著「代理型AI（Agentic AI）」快速擴張領域，從生成式AI進展到能自主判斷與行動，AI不僅能取代人類創作，甚至能代行判斷與決策。在這樣的時代背景下，本次SDF將提出核心問題：人類應在多大程度上將判斷權交給AI？以及在AI時代，為了保有判斷與選擇的主人地位，我們需要具備什麼樣的能力？

本次論壇的基調演講者是長期警告「超智慧」風險的AI安全與對齊領域先驅 Eliezer Yudkowsky。身為該領域的領軍人物，Eliezer Yudkowsky 將首度訪韓，針對人類在邁向超智慧路徑上將面臨的風險發出警告，並提出韓國可以發揮的角色。他對於在超越人類智能的AI出現後，人類是否仍能掌控AI，以及AI開發競爭可能對人類生存構成的威脅等議題，其訊息備受關注。

英國牛津大學以人為中心AI研究所創立所長 Philip Corlett 教授，則將以「人類在AI時代是否能保有判斷自主性」為議題。若人類開始將生活中的重要判斷交給AI，這些選擇是否還能稱之為自己的決定？Philip Corlett 教授提出了「旨在保存自主性的智能增強」概念，主張AI不應取代人類進行判斷，而是協助人類進行更好的思考。他預計在本次SDF中，針對在AI時代人類如何運用AI以維持判斷主體地位，提出個人見解。

世界知名媒體藝術家 Refik Anadol 將透過視覺呈現AI能將人類的創作領域擴展到何種程度。Refik Anadol 長期將數據視為顏料、將AI視為「思考之筆」，利用學習了龐大自然數據的AI，創造出現實中無法見到的全新藝術形式。本次論壇將聽取他對於AI超越藝術家工具、進而成為與人類共同開啟全新創作領域之可能性的看法。

針對AI取代人類判斷時可能引發最激烈倫理問題的國防領域，論壇也準備了相關議程。韓華航空航太國防AI研究所所長 Lee Jun-seok 將提出AI有助於國家安全與AI主權的可能性。韓國航空宇宙產業（KAI）AI開發室室長 Im Seong-sin 則預計展示人類與AI各自發揮優勢進行協作的未來空戰樣貌。在AI成為戰場核心作戰工具的時代，大眾也將探討與人類生命直接相關的判斷，究竟能在多大程度上交由AI處理。

首爾大學心理學系教授 Cha Ji-uk 將介紹連結人類大腦與AI的「巨型腦模型」之可能性。透過分析大腦活動來解讀人類聽取特定句子時產生的想法，這項技術具備從根本改變AI理解人類方式的可能性。論壇將深入探討結合腦模型與語言模型後，AI從「由內而外」理解人類的時代已近在咫尺，以及該技術將帶來的變化。

在文化藝術領域，暢銷詩人 Park Jun 與 KAIST產業設計學系講座教授 Kang Yi-yeon 也將登台。詩人 Park Jun 將在追求效率與速度的AI時代，談論人類記憶與場所的意義，透過過去記憶在當下生活中被重新喚起的瞬間，探討記憶對人類的意義。教授 Kang Yi-yeon 則將探討AI時代人類創作與藝術的意義，並談論技術無法取代的人性與主體性價值。

本次SDF還將公開針對2,000名韓國國民進行的大規模「AI國民意識調查」結果。該研究由首爾大學國家未來戰略院、延世大學資訊研究生院、KAIST與SBS文化財團共同進行，旨在診斷AI如何改變韓國人的日常生活、判斷方式及社會關係。此外，關於AI時代公共討論領域將如何改變，以及媒體應扮演何種角色的討論也將持續進行。

第22屆SBS D論壇將於5日（週四）在東大門設計廣場（DDP）舉行，並將於上午8時15分起透過 SBS 進行直播。在電視直播結束後，SBS新聞YouTube頻道將持續進行全場節目的即時轉播，直到論壇於下午5時結束。

Copyright © SBS & SBSi. All rights reserved. 禁止擅自轉載、再分發及用於AI學習。

閱讀韓文原文