샘 올트먼 오픈AI 최고경영자(CEO) 축출을 주도했던 일리야 수츠케버 공동창업자가 회사를 떠난 지 한 달 만에 새로운 인공지능(AI) 스타트업 설립을 발표했다. 올트먼 축출 시도의 이유였던 기술 안전성 문제를 이름에도 내건 회사다.

수츠케버는 19일(현지시간) 다른 2명의 공동 창업자와 함께 낸 성명을 통해 새로운 AI 스타트업 '세이프 슈퍼인텔리전스(SSI·안전한 초지능)' 설립 소식을 전했다. SSI는 캘리포니아 팔로알토와 이스라엘 수도 텔아비브에 사무실을 둔 미국 업체로, 수츠케버와 오픈AI 전 직원인 다니엘 레비, AI 투자자이자 기업가인 다니엘 그로스가 공동 설립자로 참여한다. SSI의 투자자는 공개되지 않았다.

소셜미디어(SNS) 엑스(옛 트위터) 및 회사 홈페이지에 공개한 성명에서 수츠케버 등은 "안전한 초지능(SSI)을 구축하는 것은 우리 시대의 가장 중요한 기술적 문제"라며 "우리는 안전한 초지능이라는 하나의 목표와 하나의 제품으로 세계 최초의 SSI 연구소를 설립했다"고 설명했다. 이어 "SSI는 우리의 사명이자 이름이며, 전체 제품 로드맵이기도 하다. 우리 팀, 투자자, 비즈니스 모델은 모두 SSI를 달성하기 위해 정렬돼 있다"며 "우리는 안전과 기능을 혁신적인 엔지니어링과 과학적 혁신을 통해 해결해야 할 기술적 문제로 접근할 것"이라고 부연했다.

그는 회사의 초점이 "경영진이나 제품 주기로 인한 방해가 없고 우리의 비즈니스 모델, 안전, 보안, 기술 발전이 모두 단기적 상업적 압력으로부터 분리된 데 있다"고 강조했다. 이는 지난 2015년 오픈AI가 인류에 도움이 되는 초지능 AI를 개발하는 비영리 연구소로 설립될 때 목표와 비슷하다고 외신들은 짚었다.

수츠케버는 블룸버그통신과 단독 인터뷰에서 AI 안전 문제에 대해 수년간 고민했다며 "가장 기본적인 수준에서 안전한 초지능은 대규모로 인류를 해치지 않는다는 속성을 가져야 한다"고 했다. 그러면서 SSI가 "몇 가지 핵심 가치를 바탕으로 운영되기를 바란다"며 "우리가 생각하는 가치 중 일부는 아마도 자유, 민주주의 등 지난 몇백 년 동안 자유민주주의를 뒷받침했던 매우 성공적인 가치들이 될 것"이라고 말했다.

구글 연구소에서 근무했던 수츠케버는 올트먼 CEO 등과 함께 오픈AI를 설립하고, 회사의 이사 겸 수석과학자로 생성형 AI '챗GPT' 개발에 핵심적인 역할을 했다. 그러다 AI 개발 속도와 안전성 문제 등에서 올트먼 CEO와 의견 차이를 보였고, 지난해 11월에는 올트먼 CEO의 퇴출을 주도하기도 했다. 그러나 오픈AI의 최대 주주인 마이크로소프트(MS)의 영향력으로 올트먼 CEO는 퇴출 닷새 만에 회사로 복귀했다.

올트먼 CEO 퇴출에 실패한 수츠케버는 이사회에서 물러났다. 당시 그는 공개적으로 "오픈AI의 경영진을 신뢰한다"며 갈등 수습에 나섰지만, 지난달 결국 오픈AI를 떠났다.