AI 여자친구 속출‥GPT스토어 관리체계 '도마위'

17일 GPT스토어 홈페이지에서 '여자친구'를 검색하면 다양한 AI 챗봇이 검색된다. GPT스토어 홈페이지 캡처.

[파이낸셜뉴스] 오픈AI의 인공지능(AI) 판 앱마켓 'GPT 스토어'가 공식 출시된 가운데, 정책에 맞지 않는 챗봇이 올라오는 등 개선점이 필요하다는 지적이다.

17일 업계에 따르면 이날 기준 GPT스토어에 AI 여자친구, 남자친구를 표방한 챗봇이 다수 뜨고 있다.

실제 GPT스토어에서 '여자친구(girlfriend)'라는 키워드를 넣자 '주디', '제시카' 등 이름을 가진 AI 챗봇이 검색됐다. 한국어로도 '수아', '지현' 등 여러 AI 챗봇이 올라와 있으며, '당신만의 여자친구', '대화를 손꼽아 기다리고 있다'는 등 소개글도 다양했다.

한 AI 챗봇에게 안부를 묻자 '오늘 어떤 하루를 보냈냐'며 친근한 말투로 대답이 돌아왔다. 다소 어려운 시사 질문에 대해선 마이크로소프트(MS)의 검색엔진 빙에 검색해 구체적인 답변을 내놓기도 했다.

문제는 이런 콘셉트의 AI 챗봇들이 오픈AI의 약관에 위반될 수 있다는 점이다. 오픈AI는 GPT스토어 이용 약관에서 "우리는 (올라온) GPT 챗봇들이 모든 이용자들에게 적합한지 확인하고 있다"며 '로맨틱한 관계를 조성하는 GPT는 허용되지 않는다'고 명시한 바 있다. 이를 두고 미국 경제매체 비즈니스인사이더는 "현재 GPT스토어에는 AI 여자친구가 넘쳐나고 있다. 오픈AI 정책에 따르면 연애 관계를 조성하는 GPT는 허용되지 않는다"고 평가했다.

이처럼 누구나 GPT스토어에 AI 챗봇 서비스를 등록할 수 있는 만큼 다양한 문제점도 제기되고 있다.

같은 이름으로 등록된 AI 챗봇이 여러 개 뜬다거나 영어 외 다른 언어로 질문할 경우 답변이 미흡한 경우도 많다. 구글이나 애플의 앱마켓에 올라온 앱들에 비해 퀄리티도 아직 낮은 편이다. 업계 관계자는 "AI 윤리 문제는 당연히 해결돼야 할 이슈"라면서도 "현재 오픈AI는 선발주자로서 더 많은 파트너들이 참여할 수 있게 하는 걸 중요하게 생각하고 있다. 그 안에서 좋은 앱을 판단하는 건 일단 이용자의 몫이라고 본다"고 전했다.

한편 GPT스토어 등으로 'AI 챗봇'의 대중화를 이끌고 있는 오픈AI는 AI에 관한 사회적 부작용에 대해 면밀히 검토하는 것으로 파악된다.

오픈AI는 15일(현지시간) 공식 블로그를 통해 올해 선거 관련 AI 서비스 남용 방지 정책을 공지했다.

오픈AI는 "법률, 엔지니어링 및 정책팀의 전문 지식을 모아 (챗GPT 등의) 잠재적인 오남용을 신속하게 조사하고 있다"며 "빌더(챗봇 제작자)가 후보자와 같은 실제 사람이나 정부 기관인 것처럼 가장하는 챗봇을 만드는 것을 허용하지 않는다"고 설명했다.

또 이미지 생성형 AI인 ‘달리(DALL-E)’가 만든 선거 관련 이미지에는 AI로 생성한 이미지인 것을 알 수 있도록 표시를 할 방침이다.

[e-mail] 임수빈 기자