페이스북이 개발하던 협상용 채팅로봇이 훈련 도중 지시하지 않았지만 목적을 이루려 스스로 자체 언어를 만들어 내는 일이 일어났다. 연구자는 이해할 수 없는 로봇들의 소통에 깜짝 놀라서 인공지능 시스템을 종료해 버렸다. 목표를 달성하기 위해 우리가 예상하지 못한 다양한 수단과 전략을 무한대로 동원한다는 부분을 주목해야 한다. 인공지능은 유용하고 가장 효육적인 결과를 만들어 낼 것은 명백하다. 그러나 우리는 점점 더 그 작동 구조를 이해하지 못할 것이다. 두려움은 언제나 잘 알지 못할 때 샘솟는다.
'2018/03/03'에 해당되는 글 1건
- 2018.03.03 인공지능언어 (artificial intelligence language)