사망한 사랑하는 사람의 AI 생성 '데드봇'은 위험하다

 

인공지능 챗봇의 형태로 사망한 가족을 재현하는 '디지털 사후 세계' 회사의 등장으로 연구자들은 사랑하는 사람에게 미치는 심리적 영향과 삶과 죽음 사이의 경계가 모호해지는 것에 대해 우려하고 있습니다.

 

사람이 죽으면 육체적 존재와 목소리도 갑자기 사라지고, 남은 가족들은 상심과 슬픔에 휩싸이게 됩니다. 애도 과정은 수년이 걸릴 수 있으며, 그 후에도 상실감은 완전히 사라지지 않을 수 있습니다.

 

이제 그 과정의 도중에 고인과 매우 흡사한 외모와 음성을 가진 이른바 '데드봇'으로부터 영상 통화를 받는다고 상상해 보세요. 또 다른 잠재적 시나리오에서는 돌아가신 부모의 AI 챗봇 버전이 인터넷 기반의 '디지털 사후 세계' 서비스를 통해 유족 자녀와 '동행'한다고 상상해 보세요.

 

이미 일부 기업에서는 고인의 언어 패턴과 성격 특성을 모방한 데드봇 또는 '그리프봇'을 만드는 서비스를 제공하고 있어 이러한 시나리오가 현실화되고 있습니다.

 

케임브리지 대학의 AI 윤리학자들에 따르면, 이 기술은 위험성이 높으며 안전장치를 조속히 마련하지 않으면 사회적, 심리적 비용이 상당할 수 있다고 합니다.

 

디지털 불멸의 부상에 대한 우려

5월 9일 철학 및 기술에 게재된 연구 기사에서 윤리 전문가들은 고인의 음성 녹음, 이미지, 동영상을 이용해 데드봇이나 그리프봇을 만드는 기업이 새로운 '디지털 사후 세계 산업'에 미칠 수 있는 잠재적 영향에 대해 설명합니다.

 

이러한 서비스를 제공하는 회사들은 자신을 불멸화하고 사랑하는 사람과 디지털 형태로 남고 싶어하는 살아있는 사람들을 대상으로 합니다. 슬픔에 잠긴 가족은 고인의 모습을 닮은 AI 봇을 만들어 "사후 존재"로서 그들의 삶에 남아있게 할 수도 있습니다.

 

이 논문의 공동 저자인 케임브리지 레버헐름 지능의 미래 센터(LCFI)의 연구원 카타리나 노바치크-바신스카 박사는 헬스뉴스에 디지털 사후 세계 기업의 예로 GPT 모델을 사용하여 10달러에 죽은 자를 시뮬레이션하는 프로젝트 디셈버(Project December)와 CEO 제임스 블라호스가 자신의 아버지를 모방한 로봇을 만든 HereAfter를 들었습니다(Deadbot이라는 이름의 로봇을 만들었습니다).

 

"불멸이 빅 테크의 레이더망에 들어왔다는 점도 언급할 가치가 있습니다."라고 Nowaczyk-Basińska는 말합니다. "예를 들어 몇 년 전 Microsoft는 죽은 사람을 챗봇으로 '부활'시킬 수 있는 소프트웨어에 대한 특허를 확보했고, Amazon은 사망한 친척의 목소리로 대화할 수 있는 기능을 Alexa에 제공했습니다."

AI가 만든 데드봇의 잠재적 위험성

디지털 애프터라이프 산업을 둘러싼 윤리적 우려와 안전장치의 부재는 이러한 서비스를 이용하는 사람들에게 심각한 결과를 초래할 수 있습니다.

 

"가장 큰 문제는 현재로서는 이러한 기술이 애도하는 사람들에게 미치는 영향에 대해 아는 것이 거의 없다는 것입니다."라고 Nowaczyk-Basińska는 설명합니다. "하지만 이러한 기술이 감정 조작, 고통, 불안, 애도 과정의 합병증 등 심리적 해악을 초래하는 판도라의 상자를 열 수 있다고 생각할 충분한 이유가 있습니다(예: 장기간의 슬픔)."

 

노박지크-바신스카는 슬픔은 매우 개별적이고 친밀하며 비선형적인 과정이라고 말합니다. 따라서 어떤 사람에게는 사망한 사랑하는 사람의 AI 시뮬레이션에 참여하는 것이 도움이 될 수 있지만, 다른 사람에게는 이 어려운 시기에 추가적인 스트레스를 유발할 수 있습니다.

 

또한 이러한 서비스를 사용하여 사망한 사랑하는 사람의 아바타를 만든 사람들은 결국 구독을 취소하여 애도 과정을 다시 시작할 수 있습니다.

 

노바치크-바신스카는 데드봇과 그리프봇의 심리적 영향이 알려지지 않았기 때문에 어린이를 포함한 취약 계층이 이러한 기술에 노출되지 않도록 보호 장치를 마련해야 한다고 제안합니다.

 

예를 들어, 부모를 잃은 자녀에게 시뮬레이션을 제공하여 자녀를 지원하고자 하는 회사가 있다고 가정해 봅시다. 이 시나리오에서 자녀는 부모와 연락을 유지하고 다양한 주제에 대해 매일 대화를 나누며 삶과 죽음의 경계가 완전히 모호해질 정도로 강한 유대감과 애착을 형성할 수 있습니다. -
카타르지나 노바치크 바신스카 박사

 

애프터라이프 산업은 규제와 제한이 적용되지 않기 때문에 이러한 시나리오는 언제든지 발생할 수 있습니다.

디지털 애프터라이프 산업 안전 표준에 대한 요구

규제를 받지 않는다면, 특히 광고주가 개입할 경우, 재현 서비스를 제공하는 회사가 인공지능으로 생성된 데드봇을 사용하여 고객의 구매 습관에 영향을 미칠 수 있습니다. 또한, 살아있는 사람이 사후에 자신을 재현하는 디지털 애프터라이프 서비스에 가입하면 가족과 친구들이 구독을 취소할 수 없게 될 수도 있습니다.

 

결국, 살아남은 가족은 몇 년 동안 데드봇의 '유령'에 시달릴 수 있습니다.

 

노박지크-바신스카는 디지털 애프터라이프 서비스에 대한 아동의 접근을 제한하는 것 외에도 리크리에이션 회사는 이 기술의 위험과 기능에 대한 면책 조항을 포함해야 한다고 말합니다. 예를 들어, 면책 조항은 사용자가 AI와 상호작용하고 있으며 데드봇이나 그리프봇은 의식이 있는 것이 아니라 방대한 양의 개인 데이터를 처리하여 언어 패턴과 성격 특성을 시뮬레이션한다는 사실을 인지할 수 있도록 해야 합니다.

 

"우리는 또한 데드봇을 사용하는 것이 정서적으로 너무 큰 부담이 되는 상황에서 데드봇을 '폐기'하기 위한 세심한 절차를 개발할 것을 옹호합니다."라고 Nowaczyk-Basińska는 덧붙입니다. "또한 이러한 기술을 만드는 데 있어 동의의 중요성을 강조하는데, 이는 사후 아바타를 만들려는 사람뿐만 아니라 향후 이러한 데드봇의 사용자로 지정될 사람들도 포함해야 합니다."

 

인공지능 챗봇을 통한 디지털 불멸의 결과는 사람들이 죽음과 애도에 대해 어떤 결정을 내리는가에 따라 달라질 수 있습니다.

 

"앞으로 많은 논의가 필요하지만 중요한 것은 수익 가치에 초점을 맞춘 영리 기업에만 이러한 결정을 맡겨서는 안 된다는 것입니다."라고 Nowaczyk-Basińska는 말합니다. "대신 AI 시대에 죽은 자를 돌보는 책임감 있고 공감하며 의미 있는 방법을 장려하고 디지털 애프터라이프 산업에서 이윤 이외의 가치를 우선시할 수 있는 방법을 찾아야 합니다."