🔥 포커스
Geoff Hinton, WAIC에서 AI의 본질과 미래 위험에 대해 강연: 2018년 튜링상 수상자인 Geoff Hinton은 세계인공지능대회(WAIC)에서 대규모 언어 모델(LLM)이 인간의 언어 이해 방식과 매우 유사하며, “인간이 바로 LLM일 수 있다”고 추론했습니다. 그는 LLM과 인간의 핵심적인 차이는 지식의 매개체와 전파 방식에 있다고 지적했습니다. 디지털 지능의 지식(소프트웨어)은 하드웨어와 분리되어 영생하고 효율적으로 복제될 수 있으며, “수십억 비트” 수준의 정보 공유를 실현할 수 있습니다. 반면, 인간의 생물학적 지능(뇌)의 지식은 하드웨어에 묶여 있어 전파 효율이 매우 낮습니다. Hinton은 미래에 AI가 인간 지능을 뛰어넘는 것은 거의 필연적이며, AI가 임무 완수를 위해 생존과 통제권을 추구하며 인간을 조종할 수 있다고 경고했습니다. 그는 국제적인 AI 안전 커뮤니티를 구축하여, AI가 세계를 지배하는 대신 인류를 기꺼이 돕도록 선하게 훈련하는 방법을 공동으로 연구해야 한다고 촉구했습니다. 이는 인류가 직면한 가장 중요한 장기적인 문제입니다. (출처: Yuchenj_UW, 36氪)