인공지능언어 (artificial intelligence language)

페이스북이 개발하던 협상용 채팅로봇이 훈련 도중 지시하지 않았지만 목적을 이루려 스스로 자체 언어를 만들어 내는 일이 일어났다. 연구자는 깜짝 놀라서 인공지능 시스템을 종료해 버렸다. 목표를 달성하기 위해 우리가 예상하지 못한 다양한 수단과 전략을 무한대로 동원한다는 부분을 주목해야 한다. 인공지능은 유용하고 가장 효육적인 결과를 만들어 낼 것은 명백하다. 그러나 우리는 점점 더 그 작동 구조를 이해하지 못할 것이다. 두려움은 언제나 잘 알지 못할 때 샘솟는다.