英国が関連リスクの識別と評価のためのAIモデル安全検査ツールを先行リリース
SOHU
发表于 2024-5-13 11:25:19
220
0
0
(牛占林編集)英国人工知能(AI)安全研究所は今週金曜日、先進的なAIモデルの安全リスクの監視を強化するための新しいテストプラットフォームを発表した。
紹介によると、このツールボックスの名前はInspectで、一連の分野のAIモデルを評価することができて、それらの核心知識、推理能力、自主能力を含む。オープンソースライセンスの発行により、Inspectは世界中のAIコミュニティで無料で使用できることを意味します。
英国は昨年10月、人工知能安全研究所を設立し、新型AIモデルを研究し、テストすると発表した。今年2月には、英国が1億ポンド以上を投資して9つの新しい研究センターを立ち上げ、AI規制機関に技術訓練を行うことも明らかにした。
記者会見で、英国人工知能安全研究所は、Inspectはソフトウェアライブラリであり、テスターが単一のAIモデルの具体的な能力を評価し、結果に基づいて点数を与えることができるようにしていると述べた。
Inspectは金曜日から使用できるようになり、これは国が支援する機関が先に発表したAIセキュリティテストプラットフォームでもある。
現在のAI競争ブームの下で、ますます多くのAIモデルが今年発売され、これによりAIの安全な発展を推進することがこれまで以上に切迫している。
しかし、現在最も複雑なAIモデルは基本的に「ブラックボックス」であり、そのインフラストラクチャ、トレーニングデータ、その他の重要な詳細は通常それらを作成する会社によって秘密にされ、公開されていないため、AIモデルのベンチマークテストを行うのは難しい。
では、Inspectはこの挑戦にどのように対応しているのでしょうか。主にその拡張性により、新しいテスト技術に適応して接収することができる。Inspect組み込みコンポーネントは、Pythonで作成されたサードパーティ製パッケージを使用して拡張または拡張できます。
Inspectは、データセット、ソルバ、スコアリングの3つの基本セクションで構成されています。データセットはテストのサンプル集合を評価するために使用され、ソルバは実際のテスト作業を実行するコンポーネントであり、採点器の役割はソルバの作業成果を評価し、最終的にAIモデルの性能に関する総合評価を生成し、この設計によりInspectは異なるテスト需要と評価基準に柔軟に適応することができる。
ミシェル・ドネラン英科学相は、AIセキュリティ分野における英国の持続的なリーダーシップの一環として、革新と科学技術の発展における英国の独自の才能と創造力を示し、同分野の世界的リーダーとしての地位を固めたオープンソースInspectを承認したと述べた。
人工知能安全研究所のIan Hogarth会長は、成功したAI安全テスト協力は共有され、アクセス可能な評価方法を持つことを意味し、InspectがAI安全研究所、研究組織、学術界の礎になることを望んでいると述べた。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 蔚来は電気交換サービス料の料金モデルを調整する:度によって料金を徴収し、楽道の後続の電気交換もそのまま使用する
- アップルの公式サイトが奪われた!iPhone 16の一部モデルは「秒没」
- 百度呉甘:知識強化大モデルが産業デジタルエンジンを再構築
- アップル、インドのiPhone各機種の販売価格を引き下げ
- 欧州プライバシー規制当局、グーグルが人工知能モデルにデータを活用した状況を調査
- 百度沈震:10万カード計算力クラスターアップグレード計算プラットフォーム能力文心大モデルの日調整量が7億回を超える
- Metaが重量ポンドの新製品を発表:299ドルのクエス3 Sヘッドディスプレイ、ARメガネプロトタイプ、マルチモーダルAIモデル
- 香港株アップル産業チェーンが急騰!iPhone 16 Proモデルの需要は依然として堅調ですが、将来の販売台数はどうでしょうか。
- マースク・Cybercabのリリースが間近!国内の多くの大手企業がRobotaxi中国モデルを模索している
- ボーイング社、多重リスクで10%削減を発表
-
苹果知名分析师郭明錤周四(10月31日)在社交媒体上发文表示,苹果明年可能会减少对芯片制造商博通Wi-Fi芯片的依赖,并推出自己的处理器。 郭明錤在社交媒体平台X上写道,“在2025年下半年的新产品(例如iPh ...
- uturn
- 前天 14:42
- 支持
- 反对
- 回复
- 收藏
-
10月30日,小鹏汽车生态企业小鹏汇天宣布,旗下分体式飞行汽车“陆地航母”即将亮相2024中国航展,11月12日将在中国航展第二展区(斗门莲洲)进行全球首次公开飞行,同时“陆地航母”也将在珠海国际航展中心8号 ...
- yxtianyouyou
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
交易所监管文件显示,当地时间11月1日,亚马逊创始人杰夫·贝索斯拟出售约1635万股亚马逊股票,预计套现约30.5亿美元。今年7月,贝索斯已申请额外出售约2500万股亚马逊股票,按当时股价计算可套现约50亿美元。 ...
- blueskybb
- 昨天 09:27
- 支持
- 反对
- 回复
- 收藏
-
近日,凯撒海湾目的地(山东)运营管理有限责任公司(简称“凯撒海湾”)与携程旅悦集团签署战略合作协议,双方将围绕“海上目的地运营”、“旅游产品与服务创新”、“研学旅行”、“日韩及海外旅游市场开拓”等 ...
- llyyy2008
- 昨天 11:01
- 支持
- 反对
- 回复
- 收藏