日本政府はAIセキュリティ問題組織を設立し、軍事応用におけるリスクに焦点を当てる
愿为素心人
发表于 2023-12-16 11:45:01
250
0
0
日経新聞の最新報道によると、日本政府は来年、民間のAI技術が軍事目的に転用されるリスクを含め、人工知能(AI)の安全面を検討する組織を設立することを検討しており、研究開発を妨げることなく安全性を高めることを目指している。
早ければ今月開かれる人工知能戦略委員会の会議で、AI分野で経験のある民間部門の専門家を含むAIに関する国家戦略を議論する責任を負う計画を正式に発表する見通しだという。
注目のポイントは、OpenAIのChatGPTなど、最先端の製品になります。民間部門への干渉を避けるために、企業が運営効率を高めるための標準的なAI技術は日本政府の目標にはならないだろう。
AI製品は市場に参入する前に一連のテストを行う必要があり、日本政府が購入したAI製品は使用前に専門機関の認証を受けるよう求める提案もある。
上記の新設立組織は、AIを通じて生物、化学、または他の兵器を製造するための情報を取得する可能性など、潜在的な国家セキュリティリスクを研究する計画であり、ネットワークへの攻撃を含むセキュリティホールもチェックする予定である。
また、AIが制御されなくなるリスクや、誤った情報や偏見に関する問題も調査する。AIが制御するソーシャルメディアアカウントは、ネット上で自動的にコンテンツを生成し、人間のユーザーとやり取りし、世論を操作したり感情をあおったりすることができる。
現在から見ると、情報技術の発展に伴い、AI技術が軍事分野に大量に運用されていることが現実となり、AIを用いて戦場データを収集し分析するなど一連のAI操作は、作戦システムに広く応用されている。民間AI技術が軍事目的に転用されるのは、ほとんど避けられない問題だ。
新しい組織が設立される可能性がありますが、最も可能性の高い結果は、新しい部門を既存の組織に統合することです。候補には総務省傘下のAI技術を研究する国家情報・通信技術研究所、経済産業省傘下の情報技術促進機構が含まれている。
7カ国グループ(G 7)は今月初め、AI国際ルールの枠組みについて最終合意した。これは開発者とユーザーに対して、AIの「すべての関係者」が職責を守るべきだと規定した初の包括的な国際ルールになるだろう。
G 7は、AIの悪用防止に向けた協力姿勢を率先して示す形で、G 7以外の国や企業の賛同を得ることを目指す。日本政府は今回の合意を国内向けガイドラインの策定に活用する。つまり、AI開発者は市場に製品を出す前に第三者のリスク評価を受ける必要がある。
英国と米国は人工知能機構の創設においてもリードしている。11月、英国に世界初のAIセキュリティ研究所が設立された。先端AI製品の発売前後に検証を行った後、その中に安全リスクがある製品を公開することを検討する。
米国は今年10月、バイデン大統領の行政命令に基づき、米国の国家基準・技術研究院を主導してAIセキュリティ評価方法を制定している。民間企業と共同でAIの能力とリスクを評価する方法を制定し、民間企業が自らリスク検証を行うことを望んでいるAIセキュリティアライアンスを創設することを目的としている。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
知名做空机构香橼研究(Citron Research)周四(11月21日)在社交媒体平台X上发布消息称,该公司已决定做空“比特币大户”微策略(Microstrategy)这家公司,并认为该公司已经将自己变身成为一家比特币投资基金 ...
- caffycat
- 9 小时前
- 支持
- 反对
- 回复
- 收藏
-
每经AI快讯,11月20日,文远知行宣布旗下自动驾驶环卫车S6与无人扫路机S1分别在新加坡滨海湾海岸大道与滨海艺术中心正式投入运营。据介绍,这是新加坡首个商业化运营的自动驾驶环卫项目。 ...
- star8699
- 前天 19:48
- 支持
- 反对
- 回复
- 收藏
-
上证报中国证券网讯(记者王子霖)11月20日,斗鱼发布2024年第三季度未经审计的财务报告。本季度斗鱼依托丰富的游戏内容生态,充分发挥主播资源和新业务潜力,持续为用户提供高质量的直播内容及游戏服务,进一步 ...
- goodfriendboy
- 前天 20:09
- 支持
- 反对
- 回复
- 收藏
-
人民网北京11月22日电 (记者栗翘楚、任妍)2024广州车展,在新能源汽车占据“半壁江山”的同时,正加速向智能网联新能源汽车全面过渡,随着“端到端”成为新宠,智能驾驶解决方案成为本届广州车展各大车企竞 ...
- 3233340
- 3 小时前
- 支持
- 反对
- 回复
- 收藏