금요일 언론에 따르면 두 핵심 지도자가 물러난 뒤 OpenAI는 인공지능 (AI) 의 생존 위험 연구에 전념한 팀이 모두 사임하거나 다른 그룹에 흡수됐다.
인터뷰에서 OpenAI 회사는 더 이상 소위"슈퍼 정렬"팀을 독립적인 실체로 삼지 않고 회사가 보안 목표를 달성 할 수 있도록 연구 작업에 팀을 더 깊이 통합했다고 확인했다.
작년 7월에 OpenAI는 AI가 AI를 감독하는 방식으로 초지능'AI 정렬'문제를 해결하려는 새로운 연구팀'슈퍼 정렬'을 설립한다고 발표했다.'AI 정렬'은 AI 시스템의 목표가 인간의 가치관과 이익과 일치해야 한다는 의미다.회사의 창시자 중 한 명인 일리야 수츠크워가 팀 공동 책임자로 임명되었다.
그리고 현재 AI 벤처팀이 해체된 것은 회사 내부에서 최근 불안이 일고 있다는 또 다른 증거이며, 이 회사가 AI 제품을 개발할 때 속도와 안전을 어떻게 균형잡을지 다시 한 번 의문을 불러일으키고 있다.OpenAI 규약은 인간에 필적하거나 추월할 수 있는 기술인 범용 인공지능(AGI)을 안전하게 개발해야 한다고 규정하고 있다.
지난달에는 슈퍼정렬팀 연구자 2명이 회사 기밀을 누설해 해고됐고, 다른 한 명도 2월 떠났다.이번 주 화요일이 되자 일리아는 소셜네트워크서비스 (SNS) X에서 최근 10년 뒤 회사를 떠나겠다고 발표했다. 오르트만 최고경영자 등의 지도 아래 안전하고 유익한 범용 인공지능을 만들 수 있을 것으로 믿는다.일리야는 앞서 오르트만과 AI의 발전 속도를 놓고 충돌한 바 있다.
이어 슈퍼 정렬 팀의 또 다른 책임자인 Jan Leike도 이직을 선언했다.그러나 Leike에게 일리야의 탈퇴로 인해 이견이 조정할 수 없는 지경에 이르렀다고 소식통들은 주장했다.
Leike는 금요일에 성명을 발표하여 슈퍼정렬팀이 줄곧 자원을 쟁취하기 위해 노력해왔다고 밝혔다."지난 몇 달 동안 우리 팀은 역풍을 맞으며 항해해 왔다.때때로 우리는 컴퓨팅 자원에 몸부림치고 있으며, 이 중요한 연구를 수행하기가 점점 더 어려워지고 있다"고 말했다.
그는 또 자신의 이직은 오픈AI와 회사의'핵심 우선순위'에 대해 일련의 이견이 있었기 때문이라며 회사가 AI 관련 안전조치에 관심을 기울이지 못하고 있다고 주장했다.
OpenAI는 화요일에 회사의 공동 설립자 인 John Schulman이 미래 정렬 작업의 과학 책임자가 될 것이라고 발표했습니다.한편 OpenAI는 블로그 글에서 일리야의 후임으로 Jakub Pachocki를 수석 과학자로 임명했다고 밝혔다.