페이스북 봇, 스스로 언어 개발… 페북 엔지니어들 패닉에 빠져

페이스북 펌

세계의 가장 강력한 컴퓨터 시스템들이 효율성과 속도 향상을 위해 인공지능을 본격적으로 도입하기 시작하면서 AI가 초래할 수 있는 잠재적 피해 또한 점점 커지고 있다. 기술 공동체의 많은 사람들이 인공 지능이 인간들에게 대항할 수 있는 방법들을 이론화했는데 페이스북은 그러한 시나리오가 펼쳐질 수 있는 방법에 대한 흥미로운 교훈을 얻었다. 페이스북의 엔지니어들은 봇이 인간이 쉽게 해독할 수 없는 완전히 새로운 언어로 의사소통을 하기 시작한 이후 AI 시스템들 중 하나에서 플러그를 뽑아야만 하는 지경에 이르렀다.

페이스북 AI 봇은 서로 커뮤니케이션 하기 위해 평범한 영어를 사용하도록 프로그래밍 되었지만 갑자기 횡설수설하기 시작했다. “나는 다른 모든 것을 할 수 있다.”, “공이 내게 내게 내게 내게 내게 내게” 등과 같은 문장이 AI에 의해 앞뒤로 전달되었고, 인간은 그게 무엇을 의미하는지 전혀 이해할 수 없었던 반면 봇은 서로를 이해할 수 있었다. 그러자 페이스북은 AI시스템을 종료할 수밖에 없었다.

여기서 가장 명백한 위험은 자신의 새로운 언어를 사용하여 서로 커뮤니케이션하는 컴퓨터를 인간은 이해할 수 없고 그것을 제어하기가 굉장히 어렵다는 점이다. 봇은 평범한 언어에 구속되지 않고 최선의 의사 결정을 위해 서로 소통하는 효율적인 방법을 개발해 낸 것이다. 이것은 굉장히 인상적이면서 동시에 무서운 것이다.

한편 페이스북의 저커버그는 인공 지능을 열렬히 지지하는 사람이며 인공 지능이 인류에게 야기할 수 있는 이론적 위험에 대해 큰 우려를 하지 않는 것으로 알려져 있다. 그러나 페이스북 봇이 초래한 위와 같은 실질적인 위험들 때문에 아마도 그가 인공 지능에 대해 가지고 있던 기존 입장을 조금은 바꿀 것이라는 관측이 고개를 들고있다.