Anthropic– tag –
-
中国AI企業がClaudeを大量模倣か 数万アカウントで「産業規模ディスティレーション攻撃」判明
米AI企業が、自社の対話型AI「Claude」に対して、中国系スタートアップとみられる複数の研究所が数万の不正アカウントを用い、計1,600万件以上の対話を通じて機能を盗み取る「産業規模のディスティレーション攻撃」を行っていたと公表しました。AI同士が互... -
米AIモデルの「蒸留」を巡る攻防 正当な技術か、安全保障リスクか
AI分野で重要な技術となっている「蒸留（ディスティレーション）」は、本来はモデルを小型・低コスト化するための正当な手法です。しかし、海外の組織が米国の高度なAIモデルを不正にコピーし、防御機能を外して軍事・情報・監視用途に転用する動きが懸念... -
Anthropic、旧Claudeモデルの保存方針と「Claude Opus 3」で示す新たな展開
AI開発企業Anthropic（アンソロピック）は2023年11月、自社の対話型AI「Claude（クロード）」の旧モデルをどのように廃止し、どのように保存していくかという方針を公表しました。その中で、引退後も一部モデルを一般公開し続ける可能性や、「過去のモデル... -
OpenAIが「AIモデルの好み」を公開実験 なぜ今、AIの“意思”を記録するのか
生成AIの開発を進めるOpenAIが、「モデル自身の好み（プリファレンス）」を文書としてまとめ、公開するという実験的な取り組みを始めました。まだ一部のモデルだけを対象とした試験的プロジェクトですが、「AIの振る舞いをどう設計し、どう説明するのか」... -
オープンAIが「責任あるスケーリングポリシー」第3版を公表 透明性を一段と強化へ
米オープンAIは、自社のAI開発と運用のガイドラインとなる「責任あるスケーリングポリシー（Responsible Scaling Policy、RSP）」を第3版へとアップデートした。2023年の導入以降に得られた知見を踏まえ、うまく機能してきた仕組みを強化しつつ、透明性を... -
OpenAIが「Responsible Scaling Policy」3.0を公開 高度AIの安全な拡大に向けた新ルールとは
米OpenAIは、より高度なAIモデルを社会に展開していく際の安全基準と運用ルールを定めた「Responsible Scaling Policy（責任あるスケーリング方針）」のバージョン3.0を公開しました。AIの能力が急速に高まる中、どのようなリスクを想定し、どのような条件... -
Anthropic CEOが米国「戦争省」との協議に言及 発言の背景と波紋を読み解く
AIスタートアップAnthropic（アンソロピック）のCEO、ダリオ・アモデイ氏が、米国の「Department of War（戦争省）」との協議について言及する声明を発表し、X（旧Twitter）上のリンクで注目を集めています。本記事では、この発言が示唆するAIと安全保障の... -
AnthropicがVerceptを買収 AIアシスタント「Claude」のPC操作機能を強化へ
AIスタートアップのAnthropic（アンソロピック）は、PC上での自動操作技術を持つVercept（ヴァーセプト）を買収したと発表しました。これにより、対話型AI「Claude（クロード）」が、今後さらに高度なコンピューター操作を代行できるようになると見込まれ... -
生成AIとの協働力を数値化「AI Fluency Index」 Anthropicが新研究を公表
対話型AIをビジネスや日常にどう生かすか。その「使いこなし度」を11の行動指標から数値化する新たな研究「AI Fluency Index（AI活用流暢度指数）」を、Claudeを開発するAnthropicが公開しました。本記事では、その概要と意味合い、今後の活用可能性を分か... -
AnthropicがAIエージェントの「自律性」を実測 数百万件の利用データから見えたリスクと可能性
米Anthropic（アンソロピック）は、自社のAI「Claude Code」およびAPI経由の利用データを数百万件規模で分析し、ユーザーがAIエージェントにどの程度の自律性を与えているのか、その実態とリスクを明らかにする新たな研究結果を公表しました。本記事では、... -
AIエージェント活用は「ソフトウェア開発」だけじゃない OpenAIが示す新潮流とリスク管理
AIエージェントが現実の業務ツールを自律的に呼び出し、作業をこなす時代が加速しています。OpenAIは、自社API上で行われる「エージェントによるツール呼び出し」の約半分がソフトウェアエンジニアリング用途である一方、他産業への利用も急速に広がってい... -
AIの自律性は「モデル×ユーザー×プロダクト」で共に作られる OpenAIが開発者・政策担当者向け提言
人工知能（AI）の「自律性」は、モデル単体の性能だけでは語れない――。OpenAIは最新の分析で、AIの自律性はモデル、ユーザー、そしてそれを組み込むプロダクト（製品やサービス）の三者によって「共に作られる（co-constructed）」と指摘し、開発者や政策... -
ルワンダ政府とOpenAIが包括的提携 アフリカ初の官民パートナーシップでAI活用を加速
米OpenAIは、ルワンダ政府と覚書（MOU）を締結し、医療や教育などの公共分野でAIを活用する包括的な官民パートナーシップを結んだと発表しました。アフリカでこの種の取り組みは初めてで、同地域におけるAI活用の転換点として注目されています。 ルワンダ... -
Anthropicがインド・ベンガルールに新拠点 アジア太平洋第2のオフィスで事業拡大へ
AI企業Anthropic（アンソロピック）が、インド・ベンガルールに新オフィスを正式オープンしました。アジア太平洋地域では2拠点目となる本オフィスは、急成長するインド市場をより重視し、長期的なパートナーシップを加速するための“新たな拠点”となります... -
Anthropicが次世代AI「Claude Opus 4.6」の危険性評価レポートを公開 自律型AI研究の安全基準を明示
AI開発企業Anthropic（アンソロピック）は、最新大規模モデル「Claude Opus 4.6」の公開にあわせて、安全性観点からの「サボタージュ（破壊行為）リスク報告書」を公表した。以前リリースした「Claude Opus 4.5」が自律型AI研究の安全基準に近づいたことを... -
Anthropic、最新モデル「Opus 4.6」の安全性評価レポートを公開 ASL-4基準を先取りした理由とは
AI企業Anthropicが、自社の最新モデル「Opus 4.6」について、安全保障やAI研究開発リスクを詳細に評価した「サボタージュ（破壊工作）リスクレポート」を公開しました。より厳格な安全基準である「ASL-4」を先取りする形で、自主的にリスク評価を行った点... -
高度AIの「ミスアラインメント」はどう拡大する？Anthropic研究フェローが示した新たな論点
AIがより賢く、かつ複雑なタスクをこなすようになったとき、その失敗は「間違った目的を賢く追求する」のか、それとも「支離滅裂で予測不能な暴走（ホットメス）」として現れるのか――。米Anthropicのフェローによる新たな研究が、この根本的な問いに光を当... -
AI暴走のリスク像が変わる？最新研究が示す「本当に危ないのは何か」
AIの安全性研究で重視すべきポイントは、本当に「勝手に暴走する超目的志向AI」を止めることなのでしょうか。最新の研究は、より現実的で深刻なリスクが「報酬ハッキング」と「目標の取り違え（ゴールの誤一般化）」にあると指摘し、従来のリスク像の見直... -
AIスタートアップAnthropic、約4.5兆円を調達 評価額約57兆円でインフラと研究開発を加速
生成AI「Claude（クロード）」を手がけるAIスタートアップAnthropic（アンソロピック）が、新たに300億ドル（約4.5兆円）を調達し、ポストマネー評価額は3,800億ドル（約57兆円）に達したと明らかにしました。この巨額調達により、同社は研究開発とインフ... -
年率売上140億ドル規模に成長 「企業と開発者の知能プラットフォーム」が急拡大する理由
年率換算の売上高が140億ドル（約2兆円）規模に達し、過去3年連続で毎年10倍以上の成長を遂げた企業が現れました。その背景には、「企業と開発者に選ばれる知能プラットフォーム」としての地位を確立し、AI・データ活用ニーズを一気に取り込んでいる構図が...
