首页 报纸 正文

AIのゴッドファーザーであるジェフリー・ヒントンAIは自分のコードを書き換えて「制御から逃れる」かもしれません

laolaobo
4797 0 0
業界内で「人工知能のゴッドファーザー」と呼ばれるコンピュータ科学者のジェフリー・ヒントンは、人間がうっかりしていれば、人工知能が「すべてを乗っ取るかもしれない」と述べています。
現在75歳のヒントン氏は最近、メディアのインタビューに応じ、急速に発展する人工知能技術は「5年以内に」人間よりも賢い能力を獲得する可能性があると述べました。もしそうなれば、人工知能が人間では制御できないほど進化する可能性があると彼は付け加えました。
シントン氏は、人工知能システムが制御を逃れる方法の一つとして「自分のコンピュータコード」を自分で書くことを指摘していますが、これは真剣に心配すべきことです。
ヒントン氏の研究は、現代の人工知能システムの発展にとって重要だと考えられています。1986年、彼は人工知能技術の基礎となるニューラルネットワークの開発における画期的なマイルストーンである「誤差の逆伝播による特徴の学習」という論文を共著しました。2018年には研究の成果に対してチューリング賞を受賞しました
今年4月、グーグルで10年間働いた後に副社長兼エンジニアリング研究員の職を辞めたヒントン氏は、aiがもたらすリスクについて自由に語ることができます。退職後、ヒントンは人工知能技術の開発における自分の役割を残念に思っています。
彼は特に、人工知能システムを構築した彼のような最高の科学者を含む人間は、まだこの技術がどのように働き、発展しているのかを十分に理解していないと主張しました。
多くの人工知能研究者も理解不足を率直に認めています。今年4月、グーグルの最高経営責任者であるサンダル・ピチャイは、これをaiの「ブラックボックス」問題と呼びました。
ヒントンが述べたように、科学者は人工知能システムのためにアルゴリズムを設計し、インターネットのような「データセット」から情報を抽出します。「この学習アルゴリズムがデータと相互作用すると、何かを得意とする複雑な神経ネットワークが生まれます。でも正直なところどうやってそんなことができるのかよく分かっていません」
ピチャイや他の人工知能の専門家たちは、ヒントンのように機械の暴走を心配してはいないようです。もう一人のチューリング賞受賞者であるYann LeCunは、人工知能が人間に取って代わる可能性があるという警告は「ばかげている」と述べています。人間は危険になりすぎるあらゆる技術を阻止できるからです。
しかしヒントン氏は、最悪のシナリオは不確実で、ヘルスケアなどの業界はすでにaiの恩恵を受けています。
また、人工知能が作った誤った情報や偽の写真、動画がネット上で拡散しています。彼はaiを理解するための研究を進め、政府はこの技術を規制する法律を作るべきだと訴え、人工知能の軍用ロボットを世界的に禁止すべきだと訴えました。
先月、米国の科学技術界の大物たちが議会に集まり、シューマー上院院内総務が主催した人工知能サミットに出席し、将来の人工知能規制について議論しました。メガテック企業はaiへの規制強化を議会に訴えていますが、どのように規制するかについては企業間で意見の隔たりがあります。
ヒントン氏は、aiガードレールがテクノロジー企業によって実施されているにせよ、米連邦政府の強制によって実施されているにせよ、早急な規制が必要だと指摘しています。
彼は、人間は「何かの転換点」にいるのかもしれないし、次に何が起こるかの不確実性も大きいと考えています。そして、テクノロジー界と政府指導者は「これらをさらに発展させるかどうか、そしてそうする場合はどうやって身を守るか」を決めなければならないと付け加えました。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

  •   据美国CNBC网站报道,当地时间10月3日,美国特斯拉公司表示,由于后视摄像头图像延迟,可能会影响驾驶员视野,增加撞车风险,公司将在全美范围内召回超过2.7万辆电动皮卡。   报道称,这是该公司对电动皮卡 ...
    hk1990
    前天 10:21
    支持
    反对
    回复
    收藏
  •   蔚来汽车发布《蔚来能源9月加电报告》,截至9月30日,蔚来在全国建设换电站2556座。其中高速公路换电站859座,累计为用户提供换电服务超5410万次,提供电池灵活升级服务295366次。截至9月30日,蔚来布局充电站40 ...
    1234ljx
    昨天 19:01
    支持
    反对
    回复
    收藏
  • 【规模创造历史:特斯拉召回超2.7万辆电动皮卡】特斯拉公司宣布,由于后视摄像头图像存在延迟问题,可能对驾驶员视野造成影响并增加碰撞风险,因此将在全美范围内召回超过2.7万辆Cybertruck。报道称,这是该公司迄今 ...
    事业为上
    前天 09:47
    支持
    反对
    回复
    收藏
  •   北京商报讯(记者刘晓梦)10月5日,蔚来宣布已与CYVN签署战略合作协议,将在阿联酋阿布扎比建立技术研发中心。此外,蔚来与CYVN还将联合研发一款针对当地市场的全新车型。   同时,蔚来还宣布,将正式在中东 ...
    禹阳之子
    昨天 16:11
    支持
    反对
    回复
    收藏
laolaobo 新手上路
  • 粉丝

    0

  • 关注

    0

  • 主题

    0