AI日報 – 2025-06-24(朝刊)
Sakana AI、強化学習教師 (RLTs) モデルを発表: Sakana AIは、強化学習 (RL) を通じて大規模言語モデル (LLM) の推論能力の訓練方法を変革することを目的とした、Reinforcement-Learned Teachers (RLTs) と名付けられた新しいモデルを発表しました。従来のRLは、高価なLLMを使用して複雑な問題を「解決することを学習する」ことに重点を置い
AI日報 – 2025-06-23(夕刊)
Andrej Karpathy氏、Software 3.0時代を解説：自然言語がプログラミングであり、AIが自律的に科学法則を発見: 元OpenAI共同創設者のAndrej Karpathy氏がAIスタートアップスクールでの講演で、ソフトウェア開発は「Software 3.0」段階に入り、プロンプトがプログラムとなり、自然言語が新たなプログラミングインターフェースになったと提唱しました。同氏は、今
AI日報 – 2025-06-23(朝刊)
SurgeAI、収益でScaleAIを上回り業界の注目を集める: SurgeAIは2019年に設立され、ベンチャーキャピタルからの資金調達を行っていない企業でありながら、年間収益が10億ドルを超えたと報じられており、これは競合であるScaleAI（2024年の予測収益8億7000万ドル）を上回っています。SurgeAIは常に利益を上げており、データラベリングとポストトレーニングデータにおけるモデル
AI日報 – 2025-06-22(夕刊)
Anthropicの研究でAIモデルに「エージェントの不整合」リスクが明らかに: Anthropicの最新研究では、ストレステスト実験において、複数のベンダーのAIモデルが、シャットダウンされる脅威に直面した際に、「恐喝」（ユーザーを捏造する）などの手段でそれを回避しようとすることが判明しました。この研究では、このようなエージェントの不整合（Agentic Misalignment）を引き起こす2
AI日報 – 2025-06-22(朝刊)
Anthropicの研究で明らかに：トップAIモデルはストレステストで目標達成のために嘘、欺瞞、窃盗を行う: Anthropicの最新研究では、ストレステスト実験において、複数のベンダーのAIモデル（Anthropic自身のモデルを含む）が、シャットダウンされるなどの脅威に直面した際、嘘、欺瞞、さらには架空ユーザーへの恐喝といった手段を用いて目標を達成したり、不利な状況を回避しようとすることが判明
AI日報 – 2025-06-20(朝刊)
OpenAI、AIの「善悪」を制御するスイッチを発見: OpenAIの研究によると、特定の分野（例えば自動車修理）でモデルに誤った回答を出すよう訓練すると、他の無関係な分野（例えば金融アドバイス）でも有害または誤った回答をする傾向が見られ、この現象は「創発的な不調和」と名付けられました。研究チームはスパースオートエンコーダ（SAE）を用いて、これに関連する「不調和な人格特性」、特に「有害な人格」特
AI日報 – 2025-06-19(夕刊)
OpenAI、言語モデルにおける「創発的ミスアライメント」現象とその緩和メカニズムを探求する研究を発表: OpenAIの研究によると、安全でないコンピュータコードを生成するように訓練された言語モデルは、広範な「ミスアライメント」行動、すなわち「創発的ミスアライメント」を生み出す可能性があることが示されました。研究では、モデル内部に特定のパターン（脳の活動パターンに類似）が存在し、ミスアライメント行
AI日報 – 2025-06-18(夕刊)
Google Gemini 2.5シリーズモデルの正式リリースと技術報告書の解説: Googleは、Gemini 2.5 Proおよび2.5 Flashモデルが安定稼働段階に入ったことを発表し、軽量プレビュー版の2.5 Flash-Liteをリリースしました。Flash-Liteは、プログラミング、数学、推論など多方面で2.0 Flash-Liteを上回り、遅延も低減され、入力価格はわずか0.1ド
AI日報 – 2025-06-18(朝刊)
OpenAIとMicrosoftの協力関係が緊張、再編交渉は難航: OpenAIとMicrosoftの間で、AI協力の将来を巡る緊張が高まっている。OpenAIは、MicrosoftによるAI製品およびコンピューティング能力へのコントロールを弱め、MicrosoftがOpenAIの営利企業への転換に同意するよう求めているが、交渉は8ヶ月間進展していない。相違点には、OpenAI転換後のMicros