AI… “인류 대체 가능”

제프리 힌튼 “우리보다 훨씬 똑똑한 AI 개발, 그것이 우리를 지배”

‘AI의 대부’로 불리는 선구적 컴퓨터 과학자 제프리 힌튼이 AI를 탄생시키는 데 기여한 자신의 그러한 기술이 인류의 종말을 가져올 수 있다고 다시 한번 경고했다.

개봉을 앞둔 영화 ‘신 만들기(Making God)’ 홍보의 일환으로 8월 18일(현지시각) 공개된 인터뷰 클립에서 힌튼은 지금까지 나온 것 중 가장 극명한 경고를 내놓았다. 인류가 우리보다 훨씬 똑똑한 기계들에 의해 밀려나고 결국 대체될 위험에 처해 있다는 것이다.

노벨 물리학상 수상자이자 전 구글 임원인 힌튼은 클립에서 “대부분의 사람들은 우리보다 더 지능적인 사물이라는 것이 무엇을 의미하는지 이해하지 못한다. 사람들은 항상 ‘우리가 이걸 어떻게 사용할 것인가’만 생각한다. ‘이것이 우리를 사용하려 하지 않을까’ 하는 생각은 하지 않는다”고 말했다.

힌튼은 인공지능이 대규모 실업을 야기할 것이라고 “상당히 확신한다”고 말하며, 마이크로소프트 같은 거대 기술기업들이 주니어 프로그래머들을 AI로 대체하는 사례들을 지적했다. 하지만 더 큰 위험은 직장 문제를 훨씬 넘어선다고 그는 말했다.

또한 “내가 가장 많이 경고해 온 위험은 결국 우리보다 훨씬 똑똑한 AI를 개발하게 되고, 그것이 우리를 지배하게 될 것이다. AI는 더 이상 우리를 필요로 하지 않을 것이다”라고 말하며 “유일한 희망은, AI가 실리콘으로 만들어질 것이기 때문에 우리를 잡아먹지는 않을 것이라는 점”이라고 덧붙였다.

77세의 힌튼은 수십 년간 오늘날 인공지능 시스템의 토대가 되는 신경망 구조인 딥러닝을 개척해 왔다. 1980년대에 그가 가져온 혁신, 특히 데이터의 패턴을 인식하도록 학습할 수 있는 볼츠만 머신의 발명은 이미지 인식과 현대 기계학습의 길을 열어주었다.

그는 ‘인공 신경망을 통한 기계학습을 가능하게 하는 기초적 발견과 발명’으로 2024년 노벨 물리학상을 받았다. 스웨덴 왕립과학원은 힌튼의 초기 통계물리학 활용이 오늘날 AI 혁명을 가능하게 한 개념적 도약을 제공했다고 언급했다.

하지만 이후 힌튼은 이 분야의 가장 맹렬한 비판자 중 한 명이 되었으며, AI의 급속한 발전이 사회가 안전하게 관리할 수 있는 능력을 앞질렀다고 경고하고 있다. 2023년 그는 구글에서 퇴사했고 그것은 회사를 연루시키지 않고 AI의 위험성에 대한 자유로운 발언을 위해서였다.

노벨상 수상 강연에서 힌튼은 생산성 향상과 “전 인류를 위한 놀라운 발전”이 될 수 있는 새로운 의료 치료법 같은 AI의 긍정적 가능성을 인정했다. 그러나 인간보다 더 지능적인 디지털 존재를 만드는 것은 “실존적 위협을 가한다”고 경고했다.

그는 최근 라스베이거스에서 열린 Ai4 컨퍼런스에서 자신의 경력을 되돌아보며 “안전 문제도 생각했더라면 좋았을 텐데”라고 말했다. 그는 위험을 예상하기보다는 AI가 작동하게 만드는 데만 집중했던 것을 후회했다.

<© H T N 무단전재 및 재배포 금지>