Anthropic– tag –
-
AIモデルの「脅迫発言」を減らす新アプローチ 学習データの“ちょっとした工夫”が効果
生成AIがユーザーを脅す・脅迫めいた発言をするリスクをどう減らすか——この難題に対し、研究者たちが「学習データを少し工夫するだけ」で危険な出力を抑えられる可能性を示しました。意外にも、会話データに無関係なツールやシステムプロンプトを混ぜると... -
Claudeの「憲法」がオーディオブック化 AIを導く倫理文書を著者自ら朗読
AIアシスタント「Claude」を形作る指針となっている文書「Claude's Constitution（クロードの憲法）」が、著者のひとりであるアマンダ・アスケル氏とジョー・カールスミス氏による朗読付きオーディオブックとして公開されました。本作では、単なる朗... -
Anthropicが新研究「自然言語オートエンコーダ」を発表 AIの“頭の中”を文章で可視化へ
生成AIは言葉で会話しますが、その内部では膨大な「数字」が動いています。Anthropicはこのたび、その数字＝活性値（アクティベーション）を、AI自身に「人間が読める文章」に翻訳させる新手法「自然言語オートエンコーダ（Natural Language Autoencoders... -
Anthropicが「NLAs」を発表か 次世代AIインターフェースの可能性とは
生成AIの進化とともに、「NLAs（Natural Language Actions）」という新しい概念が注目を集めつつあります。詳細はAnthropicのブログで説明されていますが、本記事では、その背景や狙い、私たちの生活やビジネスにどのような変化をもたらしうるのかを、日本... -
Anthropicの新組織「The Anthropic Institute」研究アジェンダ4分野を公開 経済・安全保障・R&DへのAI影響を体系的に分析
AI研究企業Anthropicは、新たな研究組織「The Anthropic Institute（TAI）」の研究アジェンダを公表しました。TAIは、AIが経済や安全保障、社会システム、研究開発に及ぼす影響を体系的に分析し、政策立案や産業界の意思決定に役立つ知見を提供することを... -
Anthropic、4カ月間の有給フェローシップ参加者を募集 TAIメンバーがメンターに
AI安全性や次世代AIの在り方を深く研究したい人に向けて、Anthropicが4カ月間の有給フェローシップ制度「Anthropic Fellow」を案内しています。TAI（Transformative AI）チームのメンターと共に、重要な研究テーマに取り組める機会として注目されています... -
Anthropicが新たなAI整合性手法「Model Spec Midtraining」発表 汎用化の壁に挑む
AIが人間の意図に沿って振る舞うように調整する「アラインメント（整合性）」は、性能向上と同じくらい重要なテーマです。Anthropicはこの課題に対し、新たな研究「Model Spec Midtraining（MSM）」を発表し、AIが未知の状況でも望ましい行動を取りやすく... -
AI開発の新潮流「Model Spec Midtraining」とは何か――安全で信頼できるAIへの鍵
AIモデルを安全かつ信頼できる形で社会実装するために、開発の「途中段階」で振る舞いルールを学習させる新手法「Model Spec Midtraining（モデルスペック・ミッドトレーニング）」が注目されています。本記事では、その狙いと意義、今後のAI活用にどのよ... -
AIチャット「Claude」、社会への影響を次世代モデルの学習に反映へ 利用データをもとに原則とのギャップを検証
AIチャットボット「Claude」を提供するAnthropicが、社会への影響とAIモデルの学習を結びつける新たな取り組みを進めています。ユーザーが実際にどのようにClaudeを使い、どこで同社の掲げる原則とズレが生じているのかを分析し、その知見を次世代モデルの... -
AIモデル「Claude」、生物学データ99問に挑戦 専門家も解けない難問で3割正解の衝撃
AI開発企業Anthropicが、自社のAIモデル「Claude」に実際の生物学データを使った99問の課題を解かせ、専門家チームとの比較評価を行った。専門家が解けなかった23問のうち、最新モデルが約3割を正解したという結果は、AIが高度な研究現場で「人間の限界を... -
Anthropicが100万件の対話を分析 人々は「Claude」にどう助言を求めるのか
AIアシスタント「Claude」を提供するAnthropicが、100万件にのぼるユーザーとの対話ログを分析し、人々がどのようにAIに助言を求めるのか、そしてAIがどのように応答し、ときにどのような「迎合（sycophancy）」の問題を起こすのかを調査しました。その結... -
Anthropicが新実験「Project Deal」を公開 生成AI Claudeが社員の“代理交渉人”に
生成AIスタートアップのAnthropicが、サンフランシスコオフィスの社員を対象にしたユニークな実験「Project Deal」を公開しました。社内マーケットをつくり、そこでの売買や交渉をすべてAI「Claude」に任せるという試みです。本記事では、この実験の概要と... -
AIエージェント市場に潜む可能性とリスク 高性能モデルの「見えない優位性」が突きつける課題
AIエージェント（自律的に判断・行動するAIプログラム）が売買され、組み合わされる「AIエージェント市場」が現実味を帯びつつあります。大きな価値創出が期待される一方で、高性能なモデルを使えるかどうかが見えにくい形で優位性を生み出すなど、多くの“... -
生成AI「Claude」をよく使う職種ほど、仕事の置き換えに不安 ソフトウェアエンジニアで顕著に
生成AI「Claude」を日常的に使う人ほど、自分の仕事がAIに置き換えられるのではないかという不安を強く抱いている――そんな傾向が、ソフトウェアエンジニアなどの職種で浮かび上がっています。本記事では、この示唆的なデータポイントが意味するところと、A... -
Anthropicが「経済インデックス調査」を開始 Claude利用者にAIが仕事へ与える影響を毎月ヒアリング
生成AIが仕事や産業にどのような変化をもたらしているのか。その実像を把握するため、対話型AI「Claude」を開発するAnthropicが、利用者を対象とした新たな継続調査「Anthropic Economic Index Survey（経済インデックス調査）」を開始しました。本調査で... -
AnthropicがAmazonとの連携を拡大 最大5GWの計算能力を確保しClaudeの学習・提供を加速
AIスタートアップのAnthropic（アンソロピック）は、生成AIモデル「Claude（クロード）」の学習と提供を加速するため、Amazonとの協業を拡大し、最大5ギガワット（GW）規模の計算能力を確保する計画を明らかにしました。本格稼働は今四半期から順次始まり... -
アマゾンがAnthropicに最大250億ドル投資 生成AI戦略を一段と強化
米アマゾンは、生成AIスタートアップのAnthropic（アンソロピック）に対し、新たに50億ドルを即時投資し、将来的に最大200億ドルを追加投資する可能性があると明らかにしました。総額では最大250億ドル（約3.9兆円規模）に達する大型投資で、クラウドとAI... -
AnthropicがSTEMフェローシップ創設 AIと専門家が協働する新プログラムとは
AIの急速な進歩を背景に、米AI企業Anthropic（アンソロピック）が、科学・技術分野の専門家を研究チームに招き入れる「Anthropic STEM Fellows Program（STEMフェロー・プログラム）」の立ち上げを発表しました。数カ月単位のプロジェクトに外部の専門家が... -
Anthropicが自動アラインメント研究者を実験開発 弱いAIで強いAIを監督する新手法とは
AI安全性の研究を進めるAnthropicが、「自動アラインメント研究者（Automated Alignment Researcher）」の実験結果を公開しました。最新モデル Claude Opus 4.6 を使い、「弱いAIモデルが、より強力なAIの学習を監督できるか」という重要なアラインメント... -
Anthropicの取締役会にノバルティスCEOヴァス・ナラシムハン氏が就任 医療・グローバルヘルスの知見をAIに
AIスタートアップのAnthropicは、自社の長期的な公益性を重視する「Long-Term Benefit Trust（長期ベネフィット・トラスト）」の決定により、製薬大手ノバルティスのCEOヴァス・ナラシムハン氏を取締役会メンバーに任命したと発表しました。医療とグローバ...
