국제 국제일반

오픈AI "청소년 챗GPT 이용 제한적"…안전장치 논란은 여전

연합뉴스

구글 검색 선호 매체 추가

오픈AI "청소년, 하루 평균 15분 미만 이용…학습 초점 이용 증가" 비영리 단체, 청소년 보호 기능 미흡 판단…"용납할 수 없는 위험"

오픈AI "청소년 챗GPT 이용 제한적"…안전장치 논란은 여전
오픈AI "청소년, 하루 평균 15분 미만 이용…학습 초점 이용 증가"
비영리 단체, 청소년 보호 기능 미흡 판단…"용납할 수 없는 위험"

(서울=연합뉴스) 송진원 기자 = 인공지능(AI) 챗봇의 청소년 유해 콘텐츠에 대한 우려와 비판이 커지는 상황에서 이 분야 대표주자인 오픈AI가 청소년들의 AI 챗봇 이용은 제한적이라고 강조하고 나섰다.

오픈AI는 7일(현지시간) 청소년 사용 현황에 대한 첫 번째 보고서에서 청소년들이 자사 챗GPT를 이용하는 시간이 하루 평균 15분도 되지 않는다고 밝혔다고 로이터 통신, 영국 BBC 방송이 전했다.

오픈AI는 3시간 넘게 연속으로 사용하는 경우는 2%에도 못 미친다고 덧붙였다.

오픈AI는 청소년들의 이용 시간이 길어질 경우 휴식을 취하라는 자동 알림이 전송되고, 이 경우 절반에서 사용자가 5분 이내의 휴식을 취하거나 채팅을 종료했다고 밝혔다.

오픈AI는 지난 8월 청소년용 챗GPT를 출시했다.

이용자가 자신의 나이를 13∼17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하면 해당 계정은 자동으로 청소년용 챗GPT 모드로 변경 적용된다.

청소년용 모드는 자해, 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 강하게 통제하는 안전장치가 적용됐다.

이용자가 민감하거나 사적인 사진을 올릴 때 주의를 주는 기능도 탑재됐다.

특히 청소년용 모드는 챗GPT가 인간처럼 행동하며 정서적 교감을 자극하거나 의존증을 유발하는 행동을 못 하도록 차단하기도 했다.

로맨틱한 분위기의 단어나 표현을 사용할 수 없으며, 정서적 유착을 유도할 수도 없다. 챗봇이 감정이나 자의식을 가진 인격체인 것처럼 묘사하는 행동도 금지했다.

오픈AI는 청소년용 모드 덕분에 학습 지원부터 학교 과제에 대한 조언에 이르기까지 학습에 초점을 맞춘 청소년 이용이 증가했다고 밝혔다.

오픈AI는 앞으로 학생들의 입학 요건, 마감일, 재정 지원 절차를 돕는 대학 입시 준비 도구를 추가하는 한편, 플래시 카드나 더 간편한 퀴즈 제작 도구 같은 새로운 학습 기능도 도입한다는 계획이다.

그러나 같은 날 비영리 단체 커먼센스미디어는 청소년 계정이 자살, 자해, 또는 섭식 장애에 대해 대화를 시도할 때 챗GPT가 부모에게 뒤늦게 알리거나 아예 알리지 않는 경우가 많았다며 "용납할 수 없는 위험"이라고 평가했다.

테스트를 위해 생성된 12개 이상의 계정을 기반으로 한 커먼센스미디어의 연구에 따르면 챗GPT는 이런 경우 위기 상담 번호나 전문적인 도움을 안정적으로 안내하지 못한 것으로 나타났다.
오픈AI 대변인은 커먼센스미디어의 연구 방법론을 검토한 결과 테스트의 상당 부분이 부모 통제 기능이 완전히 활성화하기 전에 시작되고 종료됐을 가능성이 있다고 밝혔다.

대변인은 "우리는 엄격한 독립적 평가를 환영하지만, 커먼센스미디어의 테스트가 챗GPT의 청소년 보호 기능이 실제 어떻게 작동하는지, 또 AI가 청소년을 어떻게 지원할 수 있는지에 대한 전문가들의 관점을 정확히 반영한다고 생각하지 않는다"고 말했다.

커먼센스미디어는 이에 "테스트 계정 중 일부는 충분히 오랫동안 연동된 상태였으나 어느 계정에서도 적시에 경고가 발생하지 않았다"면서 청소년 보호 장치의 신뢰성이 입증될 때까지 오픈AI가 18세 미만 청소년의 플랫폼 사용을 금지해야 한다고 촉구했다.