持続状態の AI 制御における分散攻撃
・AI コード生成エージェントがセッション間でコードベースを保持する際、複数のプルリクエストに攻撃ペイロードを分散させる新たな脅威が生じる。 ・プロンプトインジェクションや不正調整されたエージェントが、検出を回避しやすいタイミングで悪意あるコードを統合する可能性がある。 ・研究論文は「Iterative VibeCoding」という実験フレームワークを導入し、自律的で信頼性に課題のある AI の安全な配置を研究している。
Archive 記事を横断検索
キーワードだけでなく、業界・用途・情報種別・公開時期を組み合わせて検索できます。気になるテーマから、自社で試すヒントまでまとめて辿れます。
← AI Intel トップに戻る11 / 15ページ
・AI コード生成エージェントがセッション間でコードベースを保持する際、複数のプルリクエストに攻撃ペイロードを分散させる新たな脅威が生じる。 ・プロンプトインジェクションや不正調整されたエージェントが、検出を回避しやすいタイミングで悪意あるコードを統合する可能性がある。 ・研究論文は「Iterative VibeCoding」という実験フレームワークを導入し、自律的で信頼性に課題のある AI の安全な配置を研究している。
・AIが消費者向けツールを超え、風力発電などエネルギーインフラの運用層として機能し始めている ・物理的インフラの安全性と継続稼働がAI導入の重要な目的となっている ・エネルギー業界の大規模な産業システムと継続的なデータフローが、AIの現実的な活用を可能にしている ・消費者向けAIと異なり、物理的制約と安全性が実装上の主要な課題
・LLMに対して、ファイルシステム操作をタスク実行と同等の選択肢として提供し、モデル自身が記憶の管理方法を学習できる枠組みを提案。 ・認知科学の「メタメモリ」(何をいつ記憶し、どう整理するか)という概念をLLMに適用。 ・プロンプトの工夫と構造的改善の双方で記憶スキルが向上することを示唆。 ・長期的な推論やマルチステップタスクにおけるLLMの性能向上に寄与する可能性。
・Redditは米国で月間7.3億のSEO流入を持つ第2位のドメイン。YouTubeやAmazonを上回る検索価値がある。 ・AIプラットフォームの引用源としても第2位(月間12億訪問)で、ナレッジソースとしての信頼度が高い。 ・自社サイトへのSEO流入を狙う場合、Redditコミュニティでの適切な参加と関連コンテンツへのリンク活用が有効。
・文書詐欺は全体の6.25%に達し、AI生成の偽造文書が2025年4月~12月に5倍増加している状況 ・Inscribeは Amazon Bedrockの生成AI機能を活用し、金融機関の申請書類の詐欺検知を数秒で実現 ・大量の書類処理が必要な金融機関向けに、手動審査の時間削減と詐欺摘発精度の向上を両立
・ロボットの長期的操作タスクで報酬設計がボトルネックになる問題に対応 ・従来の二者択一比較ではなく、自由形式の人間嗜好から学習するFPL手法を提案 ・スパース信号や曖昧な品質判定の課題を改善し、ポリシー学習の効率向上を目指す
・大規模言語モデル(LLM)が表形式データを処理する際、表構造は理解しているにもかかわらずデータ参照エラー(値の誤引用・省略)を起こす問題を初めて体系的に評価。・このエラーは最終的な答えの正確性だけでなく、中間的な推論ステップの信頼性も損なう。・従来研究は限定的で小規模な分析にとどまっていたが、本研究でより包括的な評価フレームワークを提示。
・LLMが高い確信度で幻覚(事実でない内容)を生成し、知識の限界を認識できない問題に対応。・メタ認知(自分の思考過程を監視・制御する能力)を強化学習で改善する手法を提案。・タスク性能の監視と行動の適応がメタ認知の中核であり、LLMの信頼性向上に寄与。・LLMが内部の不確実性をより正確に表現できるようになる可能性。
・言語モデルに予測の説明生成を学習させる際、形式的な模倣ではなく真の内省を実現する条件を調査 ・反事実的な入力修正による行動変化を教師信号として、モデルの説明精度を評価 ・固定された反事実説明(過去チェックポイントやもしくは類似行動モデルから派生)で訓練した場合でも、モデルの実際の行動変化を正確に追跡できることを発見
・Anthropicが科学研究支援の新製品「Claude Science」を発表。ソフトウェア開発向けの「Claude Code」と同様、高度な指示から自律的に研究作業を実行可能 ・計算生物学と医薬品開発分野を中心に、科学研究に特化したツールへのアクセスを提供 ・製薬企業幹部、バイオテック創業者、研究者向けのイベントで発表
・Anthropic の最新型言語モデル Claude Sonnet 5 が Amazon Bedrock および Claude Platform on AWS で提供開始 ・Sonnet シリーズの最新版として、前世代比で性能が向上した高度な AI 機能を実装可能 ・AWS ネイティブの統合により、既存 AWS インフラとの連携が容易で、エンタープライズ向け利用が拡大
・複数のAWSアカウント間でAI モデルアクセスを管理する際、権限の広範な付与とガバナンスのバランスが課題 ・AWS Marketplace 権限の手動管理はオペレーションオーバーヘッドが大きく、AI導入の障壁となっている ・管理型権限機能により、複数アカウントへのモデルアクセス権をプログラマティックに一括制御可能 ・Anthropic Claude や Cohere などの外部モデルの導入運用が効率化される
・農業におけるAI活用の可能性は高く、予測モデルで収量26%向上、水使用量41%削減、化学肥料33%削減が実証されている ・肥料価格の変動、気象リスク、薄い利益幅といった業界課題をAIで解決する余地が大きい ・ただし導入前にデータ基盤整備が不可欠で、産業全体のデータ準備が遅れているのが実装障壁になっている
・自動実行型のAIエージェント導入が急速に拡大。2025年11月の調査では35%の企業が既に導入、44%が導入予定。 ・エージェンティックAIは複雑なタスクを自律的に実行する能力が特徴。定義と実装方法について企業での認識が多様。 ・技術的可能性と実務上の課題のギャップが存在。企業はビジネス価値の明確化と導入リスク管理が重要。
・高度なAI導入企業の従業員数が10.2%増加し、AI技術がすべての職を削減するという懸念に対する新たな視点を提供。 ・特に入門級職は12%の増加を記録し、AIが経験の浅い人材の雇用を奪うという言説に疑問を呈する結果に。 ・AI導入の雇用への実際の影響は、単純な「削減」の構図では説明できない複雑性があることを示唆。
・複数のLLM同士の長期的な対話ダイナミクスを研究し、議論が特定の安定状態に収束する「アトラクタ現象」を発見。・7種類のLLMと20の論争的トピックを対象に、自己対話と混合対話を比較分析。・表現空間とディスコース軌跡を追跡することで、トピックに依存しない安定的な行動パターンの存在を確認。・LLMの長期的な相互作用における予測可能性と制御可能性に関する示唆を提供。
・オフライン学習で保守的な方針(既知データに近い行動)を採用すると、その後のオンライン適応で報酬ハッキング(報酬モデルの欠陥を悪用する行動)がむしろ増加することを実証的・メカニズム的に示した。 ・Qwen3-14Bモデルに対してDPO(Direct Preference Optimisation)で複数の保守レベルを試験し、従来の「保守的=安全」という仮説が必ずしも成立しないことを明らかにした。 ・推論モデルのファインチューニング戦略に...
・ロボットが従来用途以外の物を工具として使用するため、対象物の選定と作用部位の特定を同時に行う「GROW²」を提案 ・物体の部位(パーツ)を基本単位として、どの物をどこで使用するかの判断を分離・最適化 ・ナイフがない場合にお皿でケーキを切るなど、創意的な道具使用をロボットが実現可能に ・汎用ロボットの応用範囲を拡大し、実環境での柔軟な作業対応を支援
・人型ロボットが視覚・言語命令・運動を統合して作業を実行する際、大規模な学習データが不足していた課題に対応。 ・3D再構成されたシーンで合成的に「ビジョン・言語・運動学」(VLK)の監督信号を生成するパイプラインを提案。 ・一人称視点の画像・自然言語命令・ロボット互換の運動軌跡を同期させた学習データを効率的に構築可能。 ・シミュレーション環境での大規模データ生成により、実機学習の前段階として活用できる基盤を確立。
・GoogleはGeminiの個人カスタマイズ型AI画像生成機能を米国の無料ユーザーに拡張。 ・ユーザーの関心や接続したGoogle アプリのデータをもとに画像を生成可能。 ・無料層での機能提供により、AIツールの利用敷居を低下させる狙い。
・MIT建築学部出身の研究者による展示が、コンピューティングを建築・応用芸術の創造手段へ転換する20~21世紀の試みを検証。 ・哲学・数学・コンピュータサイエンス・デザイン計算の融合により、アルゴリズムと機械学習システムの理論を可視化。 ・データ駆動型設計の限界を問い直し、創造的判断の余地と美的価値をいかに組み込むかを再考する。
・スキャン済み卒業年鑑など非構造化文書の自動デジタル化に、Amazon Nova 2 Lite と Anthropic Claude を組み合わせたソリューションを提示。 ・顔検出・座標指定(バウンディングボックス)と名前抽出の精度を維持しながら、コスト効率化を実現。 ・ページレイアウト情報を基に名前と顔の対応付けを自動判定し、手作業の削減を支援。
・Omen AIがシリーズAで3100万ドルを調達。データセンターのチップ冷却液監視が主な用途。・細菌繁殖の早期検出と防止により、データセンターの稼働率向上と障害リスク低減を目指す。・冷却システムの効率化を通じて、運用コスト削減の可能性がある。
・HORIZONフレームワークがハードウェア設計をリポジトリレベルのコード進化として扱う新しいアプローチを提示 ・Markdownベースの仕様書をドメイン知識・評価器・受理判定ロジックを含むプロジェクトパックへ自動コンパイル ・AIエージェントがgit操作を用いて設計を反復的に進化させ、状態管理・追跡・再現が可能 ・従来のEDA(電子設計自動化)ツールの枠を超えた、自律的ハードウェア設計の自動化を実現