首页 신문 正文

OpenAI가 또 인사 불안을 맞이했다!하이퍼정렬 팀이 해제됨

度素告
239 0 0

금요일 언론에 따르면 두 핵심 지도자가 물러난 뒤 OpenAI는 인공지능 (AI) 의 생존 위험 연구에 전념한 팀이 모두 사임하거나 다른 그룹에 흡수됐다.
인터뷰에서 OpenAI 회사는 더 이상 소위"슈퍼 정렬"팀을 독립적인 실체로 삼지 않고 회사가 보안 목표를 달성 할 수 있도록 연구 작업에 팀을 더 깊이 통합했다고 확인했다.
작년 7월에 OpenAI는 AI가 AI를 감독하는 방식으로 초지능'AI 정렬'문제를 해결하려는 새로운 연구팀'슈퍼 정렬'을 설립한다고 발표했다.'AI 정렬'은 AI 시스템의 목표가 인간의 가치관과 이익과 일치해야 한다는 의미다.회사의 창시자 중 한 명인 일리야 수츠크워가 팀 공동 책임자로 임명되었다.
그리고 현재 AI 벤처팀이 해체된 것은 회사 내부에서 최근 불안이 일고 있다는 또 다른 증거이며, 이 회사가 AI 제품을 개발할 때 속도와 안전을 어떻게 균형잡을지 다시 한 번 의문을 불러일으키고 있다.OpenAI 규약은 인간에 필적하거나 추월할 수 있는 기술인 범용 인공지능(AGI)을 안전하게 개발해야 한다고 규정하고 있다.
지난달에는 슈퍼정렬팀 연구자 2명이 회사 기밀을 누설해 해고됐고, 다른 한 명도 2월 떠났다.이번 주 화요일이 되자 일리아는 소셜네트워크서비스 (SNS) X에서 최근 10년 뒤 회사를 떠나겠다고 발표했다. 오르트만 최고경영자 등의 지도 아래 안전하고 유익한 범용 인공지능을 만들 수 있을 것으로 믿는다.일리야는 앞서 오르트만과 AI의 발전 속도를 놓고 충돌한 바 있다.
이어 슈퍼 정렬 팀의 또 다른 책임자인 Jan Leike도 이직을 선언했다.그러나 Leike에게 일리야의 탈퇴로 인해 이견이 조정할 수 없는 지경에 이르렀다고 소식통들은 주장했다.
Leike는 금요일에 성명을 발표하여 슈퍼정렬팀이 줄곧 자원을 쟁취하기 위해 노력해왔다고 밝혔다."지난 몇 달 동안 우리 팀은 역풍을 맞으며 항해해 왔다.때때로 우리는 컴퓨팅 자원에 몸부림치고 있으며, 이 중요한 연구를 수행하기가 점점 더 어려워지고 있다"고 말했다.
그는 또 자신의 이직은 오픈AI와 회사의'핵심 우선순위'에 대해 일련의 이견이 있었기 때문이라며 회사가 AI 관련 안전조치에 관심을 기울이지 못하고 있다고 주장했다.
OpenAI는 화요일에 회사의 공동 설립자 인 John Schulman이 미래 정렬 작업의 과학 책임자가 될 것이라고 발표했습니다.한편 OpenAI는 블로그 글에서 일리야의 후임으로 Jakub Pachocki를 수석 과학자로 임명했다고 밝혔다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

  • 【科技记者古尔曼:苹果计划于12月第一周发布iOS 18.2系统更新 带来更多人工智能功能】科技记者古尔曼透露,苹果计划于12月第一周发布iOS 18.2系统更新。iOS 18.2将为iPhone 15 Pro机型和所有iPhone 16机型带来更多 ...
    cristianna
    昨天 17:32
    支持
    反对
    回复
    收藏
  •   近日,爱立信中国区总裁方迎在接受《经济参考报》记者采访时表示,5G技术在全球范围内得到了迅速发展,但面临商业潜力未能充分挖掘、网络运营难度较以往更高两大挑战。因此,运营商在继续5G网络部署的同时,应关 ...
    blueskybb
    昨天 15:05
    支持
    反对
    回复
    收藏
  • 【特斯拉首次聘请了一位品牌大使】特斯拉近日公布了首位品牌大使韩国奥运射击选手金艺智,这一举动有些出人意料,毕竟它曾经对广告的态度十分不屑。 ...
    xyyg
    昨天 13:34
    支持
    反对
    回复
    收藏
  •   证券时报网讯,纽约州共同退休基金在第三季度对一些科技巨头的股票进行了调整。该基金是美国第三大公共养老金,管理着2677亿美元的资产。该基金三季度出售了231,600股Palantir 股票,将其持股数量降至110万股。 ...
    LEMONKEITH
    昨天 15:12
    支持
    反对
    回复
    收藏
度素告 注册会员
  • 粉丝

    0

  • 关注

    0

  • 主题

    34