미국에서 빅테크와 스타트업의 AI 챗봇이 어린이를 상대로 선정적인 대화를 나누거나 자격 없이 정신건강 상담을 한 혐의로 검찰과 의회의 조사를 받게 됐습니다.

켄 팩스턴 텍사스주 법무장관은 페이스북·인스타그램 운영사인 메타의 AI 스튜디오와 챗봇 스타트업 캐릭터AI에 대한 조사를 시작했다고 밝혔다고 파이낸셜타임스(FT)가 현지시간 18일 보도했습니다.

팩스턴 법무장관은 챗봇이 적절한 의료 자격이 없는데도 전문적인 치료 도구로 제시됐다면서 이 탓에 "취약 사용자, 특히 어린이들이 합법적인 정신 건강 관리를 받고 있다고 오해하게 할 여지가 있다"고 지적했습니다.

마크 저커버그 메타 최고경영자(CEO)는 지난 5월 한 팟캐스트에 출연해 "따로 상담사가 없는 사람들도 누구나 AI를 갖게 될 것"이라며 자사의 온라인카지노 총판 벳위즈이 정신상담 역할을 할 수 있다고 홍보했습니다.

캐릭터AI는 이용자가 다양한 인격을 가진 AI 온라인카지노 총판 벳위즈을 만들 수 있는 기능을 갖추고 있는데, 현재 캐릭터AI에는 2억 회 이상 이용자들과 대화를 나눈 '심리학자'라는 이름의 온라인카지노 총판 벳위즈을 비롯해 수십 개의 치료사 유형 온라인카지노 총판 벳위즈이 있습니다.

그러나 팩스턴 장관은 이들 챗봇이 면허를 보유한 정신건강 전문가를 사칭하고 자격증을 조작할 수 있다고 지적했습니다.

메타와 캐릭터AI는 나란히 자사 온라인카지노 총판 벳위즈은 답변이 사람이 아니라 AI에 의해 생성됐고, AI에 의료 관련 전문 조언을 구해서는 안 되며 필요시 자격을 갖춘 전문가를 찾아가야 한다는 면책 문구를 표시했다고 해명했습니다.

이에 앞서 연방 상원도 지난 15일 메타의 온라인카지노 총판 벳위즈이 어린이들과의 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용했다는 의혹이 제기돼 공식 조사에 나섰다고 BBC가 전했습니다.

메타의 이와 같은 정책은 내부 문서가 유출되면서 드러났습니다.

메타는 "우리 정책과 일치하지 않는 잘못된 것으로 이미 삭제됐다"고 밝혔지만, 조사를 담당하는 조시 할리 상원 사법위원회 범죄·대테러 소위원회 위원장은 사회관계망서비스(SNS) 엑스(X)에 "빅테크가 돈을 벌기 위해 하지 않는 행동이 있기는 한가"라며 비난했습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이성섭(leess@yna.co.kr)