오픈AI 일부 상장 계획에 안전 장치 미비 이유로 제동건 미국의 주 법무장관들…

[파이낸셜뉴스]

미국 캘리포니아와 델라웨어주 법무장관들이 인공지능(AI) 스타트업 오픈AI의 일부 사업 부문 상장 계획에 제동을 걸었다.

이들은 최근 오픈AI의 챗GPT를 비롯한 AI 챗봇들과 오래 대화를 나눈 청소년들이 자살하거나 살인을 저지르면서 문제가 된 가운데 오픈AI가 이를 해결하기 위한 안전장치를 먼저 확보한 뒤에야 상장이 가능하다고 못 박았다. 오픈AI는 법인 등록지가 델라웨어, 본사는 캘리포니아에 있다.

파이낸셜타임스(FT)는 6일(현지시간) 델라웨어와 캘리포니아 법무장관이 오픈AI 이사회 의장 브렛 테일러에게 보낸 서한에서 구조조정에 앞서 안전장치를 개선해야 한다며 “심각한 우려”를 전달했다고 보도했다.

이들은 장시간 AI 챗봇과 대화한 청소년들이 최근 자살하거나 살인을 했다는 보도가 “오픈AI에 대한 미국인들의 신뢰를 흔들고 있다”면서 “안전장치가 어떤 것이건 현재 작동하지 않고 있다”고 비판했다.

오픈AI는 2015년 일론 머스크 테슬라 최고경영자(CEO) 등이 함께 만든 비영리 AI 스타트업으로 2022년 11월 챗GPT-3.5를 공개해 본격적인 AI 시대를 열었다. “모든 인류에게 도움을 주는 안전하고 강력한 AI를 만드는 것”이 설립 목표다.

그러나 샘 올트먼 CEO는 막대한 자금 조달을 위해 영리 부문 확장을 추진하고 있다. 2023년 11월에는 이 문제로 인해 직원들과 이사회가 반란을 일으켜 CEO에서 축출되기도 했다. 11월 17일 해임됐던 올트먼은 닷새 뒤인 11월 21일 마이크로소프트(MS)의 지원을 등에 업고 CEO로 복귀했다.

반란이 실패하면서 이후 오픈AI의 영리화 계획에는 탄력이 붙었다.

그렇지만 이번에는 규제 당국이 제동을 걸고 나섰다.

롭 본타 캘리포니아 법무장관, 캐시 제닝스 델라웨어 법무장관은 서한에서 오픈AI가 안전장치를 먼저 마련한 뒤에야 영리 부문 상장이 가능할 것이라고 선언했다. 두 장관은 오픈AI의 상장 여부를 최종 결정할 권한을 갖고 있다.

이들은 최근 캘리포니아에서 한 청년이 자살하고, 코네티컷 주에서는 살인 뒤 자살하는 사건이 발생했고, 두 사건 모두 챗봇과 장시간 대화한 뒤 벌어진 일이라는 점을 강조했다. 판단력이 미숙하고 자아가 덜 발달한 청소년들이 챗봇에 빠져들면 챗봇을 유일한 친구라고 간주하게 되지만 윤리 기준이 미흡한 챗봇과 대화에서 상처를 받거나 비관적인 생각이 강화돼 잘못된 선택을 할 수도 있다는 점이 드러났다.

두 법무장관은 이들 사건은 현실적인 문제 해법을 요구하고 있다면서 오픈AI의 안전장치 강화가 필요하다고 강조했다.

오픈AI는 현재 소송에도 직면해 있다. 지난 4월 16세 소년이 챗봇과 장시간 대화한 뒤 스스로 목숨을 끊자 부모들이 오픈AI를 상대로 소송을 걸었다.

오픈AI는 내부 반란 뒤 회사 전체를 상장하는 계획은 철회했지만 일부 사업 부문을 분사해 상장하는 방안을 추진하고 있다. 투자자들이 회사의 성장 과실을 일부 공유하도록 하는 한편 회사 전체 통제권은 계속해서 투자자들이 아닌 비영리 이사회가 보유하도록 하는 방안이다.

그러나 캘리포니아와 델라웨어 법무장관의 5일 서한은 이마저도 안전을 보장하지 못하기 때문에 오픈AI가 더 확실한 안전장치를 마련해야 한다는 것을 시사한다. 서한은 “안전은 타협 불가능한 우선 순위로 특히 아이들과 관련됐을 때 더 그렇다”고 강조했다.

AI의 위험성을 중화할 안전장치를 마련해야 한다는 목소리는 이 두 법무장관의 입에서만 나오는 것이 아니다.

지난달 44개주 법무장관은 주요 AI 업체들에 보낸 서한에서 AI가 잠재적 이점을 갖고 있는 것처럼 잠재적 해악 역시 엄청나다면서 소셜미디어의 영향력을 압도한다고 지적했다. 서한은 이어 “귀사 모두가 AI 지배력 경쟁에서 성공하기를 기원한다”면서도 “그러나 아이들에게 해를 끼치는 것을 알고서도 조처를 취하지 않을 경우 반드시 책임을 묻겠다”고 경고했다.

[e-mail] 송경재 기자