日本政府はAIセキュリティ問題組織を設立し、軍事応用におけるリスクに焦点を当てる
愿为素心人
发表于 2023-12-16 11:45:01
244
0
0
日経新聞の最新報道によると、日本政府は来年、民間のAI技術が軍事目的に転用されるリスクを含め、人工知能(AI)の安全面を検討する組織を設立することを検討しており、研究開発を妨げることなく安全性を高めることを目指している。
早ければ今月開かれる人工知能戦略委員会の会議で、AI分野で経験のある民間部門の専門家を含むAIに関する国家戦略を議論する責任を負う計画を正式に発表する見通しだという。
注目のポイントは、OpenAIのChatGPTなど、最先端の製品になります。民間部門への干渉を避けるために、企業が運営効率を高めるための標準的なAI技術は日本政府の目標にはならないだろう。
AI製品は市場に参入する前に一連のテストを行う必要があり、日本政府が購入したAI製品は使用前に専門機関の認証を受けるよう求める提案もある。
上記の新設立組織は、AIを通じて生物、化学、または他の兵器を製造するための情報を取得する可能性など、潜在的な国家セキュリティリスクを研究する計画であり、ネットワークへの攻撃を含むセキュリティホールもチェックする予定である。
また、AIが制御されなくなるリスクや、誤った情報や偏見に関する問題も調査する。AIが制御するソーシャルメディアアカウントは、ネット上で自動的にコンテンツを生成し、人間のユーザーとやり取りし、世論を操作したり感情をあおったりすることができる。
現在から見ると、情報技術の発展に伴い、AI技術が軍事分野に大量に運用されていることが現実となり、AIを用いて戦場データを収集し分析するなど一連のAI操作は、作戦システムに広く応用されている。民間AI技術が軍事目的に転用されるのは、ほとんど避けられない問題だ。
新しい組織が設立される可能性がありますが、最も可能性の高い結果は、新しい部門を既存の組織に統合することです。候補には総務省傘下のAI技術を研究する国家情報・通信技術研究所、経済産業省傘下の情報技術促進機構が含まれている。
7カ国グループ(G 7)は今月初め、AI国際ルールの枠組みについて最終合意した。これは開発者とユーザーに対して、AIの「すべての関係者」が職責を守るべきだと規定した初の包括的な国際ルールになるだろう。
G 7は、AIの悪用防止に向けた協力姿勢を率先して示す形で、G 7以外の国や企業の賛同を得ることを目指す。日本政府は今回の合意を国内向けガイドラインの策定に活用する。つまり、AI開発者は市場に製品を出す前に第三者のリスク評価を受ける必要がある。
英国と米国は人工知能機構の創設においてもリードしている。11月、英国に世界初のAIセキュリティ研究所が設立された。先端AI製品の発売前後に検証を行った後、その中に安全リスクがある製品を公開することを検討する。
米国は今年10月、バイデン大統領の行政命令に基づき、米国の国家基準・技術研究院を主導してAIセキュリティ評価方法を制定している。民間企業と共同でAIの能力とリスクを評価する方法を制定し、民間企業が自らリスク検証を行うことを望んでいるAIセキュリティアライアンスを創設することを目的としている。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
苹果知名分析师郭明錤周四(10月31日)在社交媒体上发文表示,苹果明年可能会减少对芯片制造商博通Wi-Fi芯片的依赖,并推出自己的处理器。 郭明錤在社交媒体平台X上写道,“在2025年下半年的新产品(例如iPh ...
- uturn
- 前天 14:42
- 支持
- 反对
- 回复
- 收藏
-
10月30日,小鹏汽车生态企业小鹏汇天宣布,旗下分体式飞行汽车“陆地航母”即将亮相2024中国航展,11月12日将在中国航展第二展区(斗门莲洲)进行全球首次公开飞行,同时“陆地航母”也将在珠海国际航展中心8号 ...
- yxtianyouyou
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
交易所监管文件显示,当地时间11月1日,亚马逊创始人杰夫·贝索斯拟出售约1635万股亚马逊股票,预计套现约30.5亿美元。今年7月,贝索斯已申请额外出售约2500万股亚马逊股票,按当时股价计算可套现约50亿美元。 ...
- blueskybb
- 昨天 09:27
- 支持
- 反对
- 回复
- 收藏
-
近日,凯撒海湾目的地(山东)运营管理有限责任公司(简称“凯撒海湾”)与携程旅悦集团签署战略合作协议,双方将围绕“海上目的地运营”、“旅游产品与服务创新”、“研学旅行”、“日韩及海外旅游市场开拓”等 ...
- llyyy2008
- 昨天 11:01
- 支持
- 反对
- 回复
- 收藏