超知能の危険性を警告するユドコウスキー氏が5日に初来韓

5日、東大門デザインプラザ（DDP）で開催される第22回SBS Dフォーラムに、AIの安全分野の先駆者であるエリエザー・ユドコウスキー氏が初めて来韓し、超知能が人類の生存に及ぼす脅威について基調講演を行う。

「超知能」の危険性を警告してきたエリエザー・ユドコウスキー氏が初めて韓国を訪れる。オックスフォード大学のフィリップ・コレット教授が提示する「思考の主権」を守る方法とは何か。誰が私たちの思考を支配するのか、人類の前に置かれた選択肢は何なのか。

今年で22回目を迎える「SBS Dフォーラム（SDF）」が、5日（木）に東大門デザインプラザ（DDP）で開催される。「代替知能時代、思考の主権を問う」というテーマのもと行われる今回のSDFでは、AIの安全、哲学、脳科学、文化芸術分野の国内外の専門家が一堂に会し、AI時代における進むべき道を照らし出す。生成AIを超え、自ら判断し行動する「エージェンティックAI」が急速に領域を広げ、人間の創作だけでなく判断や決定までもAIが代行する時代が到来している今日、SBS Dフォーラムでは、人間がどこまでAIに判断を委ねるのか、またAI時代においても自らの判断と選択の主として留まるために何が必要なのかを問いかける。

「AI危険論」の代表格ユドコウスキー氏、人間の自律性を問う哲学者コレット教授が初来韓

今回のフォーラムの基調講演者は、「超知能」の危険性を一貫して警告してきたAIの安全とアライメント分野の先駆者、エリエザー・ユドコウスキー氏である。ユドコウスキー氏は、超知能へと向かう過程で人類が直面する危険を警告し、韓国ができる役割を提示するため、初めて韓国を訪れる。人間よりも優れた知能を持つAIが登場した後も、人間がそれを制御できるのか、AI開発競争が人類の生存にどのような脅威をもたらし得るのか、同氏のメッセージに注目が集まっている。

英国オックスフォード大学人間中心AI研究所の創設所長であるフィリップ・コレット教授は、AI時代に人間が果たして判断の自律性を守ることができるのかという問いを投げかける。人間が生活における重要な判断をAIに委ね始めたとき、その選択を自らのものと呼べるのだろうか。コレット教授は、AIが人間の代わりに判断するのではなく、人間がより良く考えることを助ける「自律性を保存する知能増強」を提案する。コレット教授は今回のSDFにおいて、AI時代にも人間が自ら下した判断の主として留まるために、AIをどのように活用すべきか、独自の方向性を提示する予定だ。

世界的なメディアアーティストであるレフィク・アナドルは、AIが人間の創作領域をどこまで拡張できるかを視覚的に示す。データを絵具に、AIを「考える筆」として活用してきたアナドル氏は、膨大な自然データを学習したAIと共に、現実では見ることのできない新しい形態の芸術を生み出してきた。AIが芸術家の道具を超え、人間と共に新しい創作の領域を切り拓いていく存在となる可能性について、同氏の考えを聞く。

安保・防衛産業とKカルチャーリーダーが見るAIの未来…「巨大脳モデル」の可能性は？

AIが人間の判断に代わる場合、最も鋭い倫理的問題が発生し得る国防分野の未来を扱うセッションも用意されている。イ・ジュンソク・ハンファエアロスペース国防AI研究所長は、AIが国家安保とAI主権に寄与する可能性を提示する。イム・ソンシン・韓国航空宇宙産業（KAI）AI開発室長は、人間とAIがそれぞれの長所を活かして協業する未来の空中戦の姿を示す見通しだ。AIが戦場の核心的な作戦道具として定着した時代に、人の生命に直結する判断をどこまでAIに委ねられるのかも検討される。

チャ・ジウク・ソウル大学校心理学科教授は、人間の脳とAIを繋ぐ「巨大脳モデル」の可能性を紹介する。脳活動を分析し、人がどのような文章を聞いてどのような考えをしたかを解釈する技術は、AIが人間を理解する方法を根本的に変える可能性を秘めている。脳モデルと言語モデルの結合により、AIが人間を「内側から外側へ」と理解する時代がどこまで近づいているのか、またその技術がもたらす変化について掘り下げていく。

文化芸術界からは、ベストセラー詩人のパク・ジュン氏と、KAIST産業デザイン学科のカン・イヨン教授が登壇する。パク・ジュン詩人は、効率性と速度を追求するAI時代における人間の記憶と場所が持つ意味を語る。これを通じて、過ぎ去った記憶が現在の生活の中で再び呼び起こされる瞬間を通じ、人間にとって記憶がどのような意味を持つのかを考察する。カン・イヨン教授は、AI時代における人間の創作と芸術がどのような意味を持つのかを検討し、技術が代行できない人間性と主体性の価値について語る。

大規模なAI国民認識調査の結果公開…韓国はAI時代をどのように迎えるのか

今回のSDFでは、韓国国民2,000人を対象に実施された大規模な「AI国民認識調査」の結果も公開される。ソウル大学校国家未来戦略院、延世大学情報大学院、KAIST、およびSBS文化財団の共同研究を通じて、AIが韓国人の日常生活や判断、そして社会的関係をどのように変えているのかを診断する。AI時代に公共圏がどのような姿に変わるのか、またメディアの役割は何であるかについての議論も行われる。

第22回SBS Dフォーラムは、5日（木）に東大門デザインプラザ（DDP）で行われ、午前8時15分からSBS-TVで生放送される。SBSニュースのYouTubeチャンネルでは、TV中継終了後からSDFが終了する午後5時まで、全セッションのリアルタイム中継が行われる。

韓国語の原文を読む