AI 발전에 대한 우려의 무게
AI를 처음 접한 3년여 전부터 인류의 미래가 우려스러웠다. 당시에도 가능만 하다면 모든 개발을 중단하는 것이 낫다고 생각했다. 하지만 이것이 불가능함을 알고 있었기에, 어떻게 하면 좋은 방향으로 이끌어갈지 고민하겠다는 나름의 위안을 가지고 공부를 시작했다.
당시 우려했던 이유는 지금 나오고 있는 것과는 달랐다. AI 기술은 마태효과처럼 잘하던 곳이 점점 더 잘할 수밖에 없기에, 특정 기업이나 개인에게 부가 극단적으로 집중될 것이라는 생각이었다.
힌튼과 하라리의 경고
최근 GPT-4의 등장으로 AI 업계의 많은 사람이 생각보다 너무 빠른 발전에, 이를 받아들일 제도적·사회적 준비가 되지 않았다는 것에 우려를 표하기 시작했다. AI계의 구루 중의 구루인 힌튼의 이야기는 어느 때보다 무게감 있게 다가온다. 인류 지능의 총합보다 더 큰 지능의 출현, 그리고 그들은 더 빨리 교류하고 복제될 수 있다.
개인적으로 가장 인상 깊었던 진술은 유발 하라리의 이야기였다. AI가 말과 글을 지배함으로써 인류는 자신들이 지배당한 줄도 인식하지 못한 채 이들에게 지배당할 것이라는 것. 인류의 사고 체계와 협력과 민주주의가 말과 글에 의해 정립되고 교류되어왔기에.
남은 질문
인간이 번성했던 중요한 이유였던 언어와 협력을 더 잘, 더 빨리 수행하는 새로운 지능의 출현이다. 그들 스스로가 의도와 목적을 가진다고 생각하긴 어렵지만, 인류의 누군가가 넣어줄 초기 목표를 달성하기 위한 하위 목표들은 스스로 수립하고 달성할 수 있는 시대가 도래했다.
집단으로서의 인간은 이기적이기에 AI를 더 이상 개발하지 말자는 건 현실적이지 않다. 이 구루조차도 아직 마땅한 대안이 없는 상황에서, 우리는 어떤 희망을 품어볼 수 있을까. 유일한 희망은 AI 발전 속도가 우리의 예상만큼 빠르지 못할 때뿐인가.
