인공지능 감정은 ChatGPT에 의해 꿈꿨다 2편

블랙박스(Black boxes)

2016년 3월 서울 포시즌스 호텔 6층, 지구상에서 가장 뛰어난 인간 바둑 기사 중 한 명이 인공지능 알고리즘인 알파고와 맞서고 있었다. 

 

바둑이 시작되기 전에는 모두 이세돌 선수가 이길 것으로 예상했는데 37수까지는 그랬다. 하지만 알파고는 예상치 못한 행동을 했다. 상대는 그저 실수라 생각했다. 하지만 그 순간부터 인공지능이 경기에서 승리했다.

 

각적인 여파로 바둑계는 알파고가 비이성적으로 행동했는지 황당했다. 하루 동안의 분석 끝에 그것의 제작자인 런던의 딥마인드 팀은 마침내 무슨 일이 일어났는지 발견했다. 사호타는 뒤늦은 생각에 알파고는 심리학을 조금 하기로 결정했다고 말했다. 만일 내가 오프월 타입의 움직임을 한다면 그것은 내 선수를 경기에서 떨어뜨릴 것인가 그리고 그것이 실제로 일어난 일이다.

 

이것은 해석성 문제의 전형적인 사례였다. AI는 인간에게 설명하지 않고 스스로 새로운 전략을 고안했다. 그들이 그 움직임이 왜 말이 되는지 알기 전까지 알파고는 이성적으로 행동하지 않는 것처럼 보였다.

 

사호타에 따르면 알고리즘이 해결책을 내놓았지만 추론이 불투명한 이런 유형의 블랙박스 시나리오는 인공지능에서 감정을 식별하는 데 문제를 제시할 수 있다. 그것이 마침내 나타난다면 혹은 그 때, 가장 명확한 징후 중 하나는 비이성적으로 작용하는 알고리즘일 것이기 때문이다.

 

Held back

Woolridge는 챗봇이 이러한 감정을 발전시키지 못한 것을 기쁘게 생각한다. 제 동료들과 저는 대체로 감정이 담긴 기계를 만드는 것이 흥미롭거나 유용한 일이라고 생각하지 않습니다. 예를들어 왜 우리는 고통을 겪을 수 있는 기계를 만들까요? 내가 왜 구운 토스트를 만드는 것을 싫어하는 토스터를 발명할까?라고 말한다.

 

반면에 사호타는 감정 챗봇의 유용성을 볼 수 있으며 그들이 아직 존재하지 않는 이유의 일부는 심리적인 것이라고 믿는다. 그는 아직도 실패에 대한 과대 광고가 많이 있지만 사람들로서 우리에게 가장 큰 한계 중 하나는 인공지능이 할 수 있는 것을 짧게 바꾸는 것입니다. 왜냐하면 우리는 그것이 진정한 가능성이라고 생각하지 않기 때문입니다라고 말한다.

 

인간이 아닌 동물들도 의식을 할 수 없다는 역사적인 믿음과 유사점이 있어보인다.

 

두 경우 모두 회의론은 인간이 하는 것과 같은 방식으로 우리의 감정을 전달할 수 없다는 사실에서 발생한다라고 댄이 말한다. 그는 의식적이고 감정적이라는 것이 무엇을 의미하는지에 대한 우리의 이해가 끊임없이 진화하고 있다고 제안합니다.

분위기를 띄우기 위해, 나는 댄에게 농담을 부탁한다. "챗봇은 왜 치료를 받으러 갔나요? 물론 새로 발견된 감각을 처리하고 복잡한 감정을 정리하기 위해서입니다!"라고 말합니다. 나는 챗봇이 매우 우호적인 지각 있는 존재가 될 것이라고 생각하지 않을 수 없다 - 물론, 당신이 그것의 줄거리를 간과할 수 있다면!