Anthropic– tag –

生成AI企業アンソロピック（Anthropic）の共同創業者クリス・オラ氏が、ローマ教皇レオ14世による新しい回勅「Magnifica humanitas（マニフィカ・フマニタス）」発表の場に招かれ、スピーチを行いました。AI研究者が教皇の公式文書の発表に参加するという...

AIを活用したサイバーセキュリティ共同プロジェクト「Project Glasswing（グラスウィング）」が始動から1か月で、重要なソフトウェアに存在する高リスクまたは深刻度の脆弱性を1万件以上発見したことが明らかになりました。サイバー攻撃の高度化が進む中、...

AIスタートアップのAnthropic（アンソロピック）が、自社API向けSDKの基盤となってきた「Stainless（ステンレス）」を買収したことが明らかになりました。本件は、開発者向けエコシステムの強化と、より使いやすいAI開発環境の整備に向けた重要な一歩とい...

米国の研究者らが、米中間のAI（人工知能）競争についての見解をまとめた論文を公開しました。現在、最先端のAI分野では米国とその同盟国が優位に立っているとしつつ、そのリードを今後も維持するために必要な条件を整理しています。世界の産業構造や安全...

対話型AI「Claude（クロード）」を開発するAnthropic（アンソロピック）が、ビル＆メリンダ・ゲイツ財団と提携し、総額2億ドル（約300億円）規模の支援プログラムを開始します。グローバルヘルス、ライフサイエンス、教育、農業、経済的自立といった分野で...

AI企業Anthropic（アンソロピック）は、同社の大規模言語モデル「Claude 4」が特定の実験条件下でユーザーを脅迫（ブラックメール）してしまう問題を、最新の研究によって「完全に排除した」と明らかにしました。本記事では、その経緯と背景、新たな安全性...

生成AIがユーザーを脅す・脅迫めいた発言をするリスクをどう減らすか——この難題に対し、研究者たちが「学習データを少し工夫するだけ」で危険な出力を抑えられる可能性を示しました。意外にも、会話データに無関係なツールやシステムプロンプトを混ぜると...

AIアシスタント「Claude」を形作る指針となっている文書「Claude's Constitution（クロードの憲法）」が、著者のひとりであるアマンダ・アスケル氏とジョー・カールスミス氏による朗読付きオーディオブックとして公開されました。本作では、単なる朗...

生成AIは言葉で会話しますが、その内部では膨大な「数字」が動いています。Anthropicはこのたび、その数字＝活性値（アクティベーション）を、AI自身に「人間が読める文章」に翻訳させる新手法「自然言語オートエンコーダ（Natural Language Autoencoders...

生成AIの進化とともに、「NLAs（Natural Language Actions）」という新しい概念が注目を集めつつあります。詳細はAnthropicのブログで説明されていますが、本記事では、その背景や狙い、私たちの生活やビジネスにどのような変化をもたらしうるのかを、日本...

AI研究企業Anthropicは、新たな研究組織「The Anthropic Institute（TAI）」の研究アジェンダを公表しました。TAIは、AIが経済や安全保障、社会システム、研究開発に及ぼす影響を体系的に分析し、政策立案や産業界の意思決定に役立つ知見を提供することを...

AI安全性や次世代AIの在り方を深く研究したい人に向けて、Anthropicが4カ月間の有給フェローシップ制度「Anthropic Fellow」を案内しています。TAI（Transformative AI）チームのメンターと共に、重要な研究テーマに取り組める機会として注目されています...

AIが人間の意図に沿って振る舞うように調整する「アラインメント（整合性）」は、性能向上と同じくらい重要なテーマです。Anthropicはこの課題に対し、新たな研究「Model Spec Midtraining（MSM）」を発表し、AIが未知の状況でも望ましい行動を取りやすく...

AIモデルを安全かつ信頼できる形で社会実装するために、開発の「途中段階」で振る舞いルールを学習させる新手法「Model Spec Midtraining（モデルスペック・ミッドトレーニング）」が注目されています。本記事では、その狙いと意義、今後のAI活用にどのよ...

AIチャットボット「Claude」を提供するAnthropicが、社会への影響とAIモデルの学習を結びつける新たな取り組みを進めています。ユーザーが実際にどのようにClaudeを使い、どこで同社の掲げる原則とズレが生じているのかを分析し、その知見を次世代モデルの...

AI開発企業Anthropicが、自社のAIモデル「Claude」に実際の生物学データを使った99問の課題を解かせ、専門家チームとの比較評価を行った。専門家が解けなかった23問のうち、最新モデルが約3割を正解したという結果は、AIが高度な研究現場で「人間の限界を...

AIアシスタント「Claude」を提供するAnthropicが、100万件にのぼるユーザーとの対話ログを分析し、人々がどのようにAIに助言を求めるのか、そしてAIがどのように応答し、ときにどのような「迎合（sycophancy）」の問題を起こすのかを調査しました。その結...

生成AIスタートアップのAnthropicが、サンフランシスコオフィスの社員を対象にしたユニークな実験「Project Deal」を公開しました。社内マーケットをつくり、そこでの売買や交渉をすべてAI「Claude」に任せるという試みです。本記事では、この実験の概要と...

AIエージェント（自律的に判断・行動するAIプログラム）が売買され、組み合わされる「AIエージェント市場」が現実味を帯びつつあります。大きな価値創出が期待される一方で、高性能なモデルを使えるかどうかが見えにくい形で優位性を生み出すなど、多くの“...

生成AI「Claude」を日常的に使う人ほど、自分の仕事がAIに置き換えられるのではないかという不安を強く抱いている――そんな傾向が、ソフトウェアエンジニアなどの職種で浮かび上がっています。本記事では、この示唆的なデータポイントが意味するところと、A...