公開
大規模言語モデルのメタ認知：基礎・進展・応用可能性
・メタ認知（自分の思考過程を認識・評価する能力）は効果的な学習・問題解決・意思決定に必須の知能要素。 ・近年、透明性の高い信頼できるAIシステムの基盤として認識が広がっている。 ・LLMがメタ認知能力をいつ・どのように・どの程度発揮・獲得できるかは未解明。 ・本論文は、LLMのメタ認知に関する基礎研究の現状と今後の機会をまとめた総説。
AI
Archive 記事を横断検索
自社に関係するAI情報を、すぐ見つける。
キーワードだけでなく、業界・用途・情報種別・公開時期を組み合わせて検索できます。気になるテーマから、自社で試すヒントまでまとめて辿れます。
← AI Intel トップに戻る103件
2 / 5ページ
- Source
- 公開Source
ConceptSMILE：概念ベース説明型AIの信頼性監査フレームワーク
・概念ベースの説明型AI（XAI）は人間が理解しやすいが、その概念レベルの出力が常に信頼できるとは限らない問題に対応 ・ConceptSMILEは摂動ベースの監査フレームワークで、特徴量やリージョンレベルではなく人間理解可能な概念レベルでの説明の信頼性を評価 ・モデル非依存の設計により、異なるAI/ML環境での汎用的な適用が可能
- 公開Source
UMAP内部のk近傍グラフを活用した高次元データの可視化と分析
・UMAP は 2 次元投影結果だけでなく、内部で構築される k 近傍グラフに豊富な情報を保有している ・このグラフは元の高次元空間でのデータ構造を捉えており、2 次元投影による歪みを回避できる ・標準的なグラフアルゴリズムをこのグラフに適用することで、従来のワークフローでは見落とされていた分析が可能になる
- 公開Source
実行トレースから根本原因へ：エージェント最適化のための構造的軌跡分析と因果抽出
・長時間のタスク実行を行うAIエージェントの改善には、大言語モデルが失敗を診断し改良する反射型メカニズムが用いられている ・実際の実行記録は冗長性と異質性があり、最適化が非効率で過学習につながるため、有効な信号抽出が課題 ・個別の実行軌跡内のノイズを除去し、構造的な因果関係を特定する手法を提案
- 公開Source
画像生成AIの知識限界を超える検索機能の実装と評価
・画像生成AIは学習データにない新しい概念や最新トレンドを幻想（ハルシネーション）で補う問題がある ・ユーザーの要望は無限に多様で、訓練済みモデルの固定知識では対応できない構造的課題に直面している ・SearchGen-20K と SearchGen-Bench という 20,839 個のプロンプトを含むベンチマークデータセットを構築した ・12 のエラー分類と 22 のドメインをカバーし、生成AIの知識境界拡張を測定する枠組みを提供す...
- 公開Source
弱いモデルでのRL学習を強いモデルに転移させる効率化手法
・小規模な言語モデルで強化学習（RL）を実行して得た知見を、大規模モデルへ直接転移する手法を提案。 ・検証可能な報酬に基づくRL学習は推論性能を高めるが、計算コストが課題となっており、モデル規模の拡大に伴いボトルネック化。 ・小規模モデルでのロールアウト生成コストを削減しつつ、大規模モデルの性能向上を実現する効率的なアプローチ。
- 公開Source
人手ラベルなしで学習する解釈可能な深層学習：天文観測データの真贋分類と不確実性推定
・時間領域天文サーベイで大量に発生する一過性現象候補の分類を、人手ラベルなしで実現する深層学習手法を提案 ・合成トランジェント（注入された現象）と実観測ノイズデータを組み合わせることで学習データセットを構築 ・クラス不均衡が強い条件でも堅牢に動作し、予測の確実性を定量的に示すことで信頼性を向上 ・解釈可能性を備えることで、分類根拠の透明性を確保
- 公開Source
Amazon SageMaker HyperPodで実現する Amazon Novaの複数ターンRL基盤構築
・企業向けエージェントが複数ステップのワークフローを実行する際、単一アクションの品質が後続ステップに依存する訓練課題が発生 ・強化学習（RLHF）を複数ターン対応させ、データベース照会やAPI呼び出し、エラー回復を含む実務的なタスク学習を実現 ・Amazon SageMaker HyperPodのスケーラブルインフラで、大規模モデル訓練の効率化と導入時間短縮を両立
- 公開Source
Hugging Face から Amazon SageMaker Studio へ、ワンクリックで移行可能に
・Hugging Face と Amazon SageMaker AI の統合により、モデル発見から実験までをワンクリックで実現 ・開発者は Hugging Face 上でモデルを選択し、SageMaker Studio で即座にファインチューニングや検証を開始可能 ・ファウンデーションモデルの開発サイクルを短縮し、プロトタイプから本番運用への移行を加速
- 公開Source
Mistral AI とは：OpenAI の競合企業の全体像
・2023年創業の Mistral AI はオープンソース AI モデルを提供し、フロンティア AI を誰もが使える状態にすることを目標としている。 ・同社は創業以降、大型資金調達を複数回実施し、OpenAI との競合企業として成長している。 ・オープンソースアプローチにより、商用製品と異なり、企業が自社環境での導入・カスタマイズが可能な選択肢を提供している。
- 公開Source
Midjourney、ハリウッドスタジオのAI利用状況の開示を要求
・Midjourneyは係争中のハリウッドスタジオ3社に対し、AIの利用実態を開示するよう要求している ・法的紛争の一環として、スタジオ側のAI使用方法の詳細を明らかにさせようとしている ・生成AIと映像制作業界の権利関係が法的に問われている段階
- 公開Source
言語モデルの状態保持と予測を分離する新しいアーキテクチャ
・Transformer が次トークン予測と将来予測用の状態保持を同じ計算経路で行う点に着目し、これらを分離することで性能向上が期待できるという仮説を提示 ・状態保持と予測の役割を分離した新型Transformer 変種を設計し、複数スケールでの事前学習実験を実施 ・分離アーキテクチャが言語モデリング性能の向上をもたらすことを実験的に示唆
- 公開Source
LLMが生成する研究アイデアと人間研究者のアイデアのギャップ測定
・LLMが研究アイデア出しに使われる場面が増えているが、既存評価は新規性や実現可能性の個別判定に留まっている。 ・本研究は「LLM生成アイデアが人間研究者のレベルにどこまで近いか」という問いに直結する評価フレームワークを提案。 ・高品質な人間の研究論文から逆算して先行研究を特定し、LLM出力との系統的な比較を可能にした。
- 公開Source
大規模言語モデルの「集団思考」の罠：スタートアップの打開策
・大規模言語モデル（LLM）は数字選択などで高い予測可能性を示しており、創造性が低い傾向にある。 ・複数の主流チャットボット（Claude、ChatGPT、Gemini）で同様の「思考の溝」に陥っている実態が指摘されている。 ・スタートアップがこの制約を突破するための方法論の開発に取り組んでいる。 ・LLMの多様性と創造性向上は、エンタープライズ導入時の差別化要素となる可能性がある。
- 公開Source
LeVo 2：階層的表現と段階的学習による安定した楽曲生成
・楽曲全体の生成において、ボーカルと伴奏の協調性と音声品質のバランスを取る技術的課題に対応 ・混合トークン方式と双トラック予測の長所を組み合わせたハイブリッドアプローチを採用 ・言語モデルと拡散モデルを融合させた LeVo 2 フレームワークにより、歌詞・プロンプト指示への追従と一貫性の維持を実現
- 公開Source
ハイブリッド注意機構モデルへの段階的変換手法
・Transformerモデルの長文脈処理を効率化するため、一部層を完全注意機構で保持し残りを線形注意機構に置き換えるハイブリッド構造が有効である ・従来手法は層の重要度を独立して扱うヒューリスティック（固定パターンや層別スコアリング）に依存していた ・層選択の最適化が変換成功の鍵となり、新たな選択戦略の研究が進行中である
- 公開Source
MIT音楽技術大学院プログラム、初期学生の研究成果を発表
・MIT が 2024 年秋に開設した音楽技術・計算大学院プログラムが初の研究発表会を開催 ・人文科学系と工学系の学部横断型で、音楽と AI・計算機科学の融合を推進 ・修了生らが AI 作曲、音声処理、インタラクティブシステム等の研究成果を展示 ・業界と学界の連携強化により、音楽テック分野の人材育成と技術開発が加速
- 公開Source
LLMエージェント向けポストトレーニングに隠れた利点：プロセス報酬の新たな活用
・LLMエージェントの長期行動評価において、プロセス報酬モデル（各ステップを評価）の構築は人間アノテーションやシミュレーションが困難であった課題に直面。 ・本研究は、RL（強化学習）ポストトレーニングのプロセスそのものが、別途の報酬モデル構築なしにステップレベル評価を可能にすることを示唆。 ・長期相互作用、不可逆的アクション、確率的環境フィードバックを含む複雑なエージェントシナリオへの適用を想定。
- 公開Source
AI研究者がGoogleからライバル企業への流出を継続
・GoogleのトップAI研究者Jonas AdlerとAlexander Pritzelが相次いでAnthropicに転職。 ・これまでNoam ShazeerやJohn Jumperなど複数の著名研究者がGoogleを離職している状況が続いている。 ・有力AI人材の流出は企業の研究開発競争力に直結する重要な経営課題。
- 公開Source
OpenThoughts-Agent：エージェント型AIモデル向けデータ準備の方法論
・エージェント型言語モデルの学習データ作成方法が未公開のため、OT-Agent プロジェクトが完全オープンなデータ準備パイプラインを提案 ・既存の SWE-Smith、SERA、Nemotron-Terminal などは単一ベンチマーク対応で、複数の異なるエージェントタスクに汎化するモデル開発の課題が残存 ・複数の多様なエージェントタスク領域にわたって学習可能なデータセット構築手法を公開することで、エージェント型 AI の開発障壁を低減
- 公開Source
MLLMにおける適応的推論とコード統合：AIRの提案
・マルチモーダル大規模言語モデル（MLLM）に推論とコード実行を組み合わせる研究が急速に進展している ・既存手法は視覚認識タスクに特化し、定義済みルールに依存するため数値計算に対応できない限界がある ・AIRは視覚操作と数値計算の両方に対応可能な適応的なアプローチを提案している
- 公開Source
セマンティック・ブラウジング：画像生成における制御可能な多様性
・テキスト指示から画像を生成するAIモデルは、指示への忠実性は高いが、生成結果が単一の解釈に偏る多様性の課題を抱えている。 ・既存の多様性改善手法は、意図的な設計選択ではなく偶然的な変動を利用しているため、有用性が限定的。 ・本研究は生成サンプルに構造を強制した上で、ユーザーが意味のある選択肢から多様な結果を選べる制御可能な方法を提案。
- 公開Source
SageMakerの詳細メトリクスとCloudWatchで生成AIの推論を監視・デバッグ
・生成AIの推論エンドポイント運用時の監視・トラブルシューティングの課題を解決するAWS機能 ・P99レイテンシ急増時の根本原因（GPU メモリ圧力、KV キャッシュ飽和、トラフィック不均衡、オートスケーリング遅延など）を迅速に特定可能 ・SageMaker の詳細メトリクスと CloudWatch Insights ダッシュボードで、大規模 LLM エンドポイントの運用効率を向上
- 公開Source
実録音データを活用した複数話者の音声シーン生成技術
・既存の複数話者対話システムは構造化された教師データ（話者タグ、複数トラック文字起こし等）に依存し、音声のみを抽出する ・ScenA という手法は、大規模な実録音データで事前学習したテキスト音声生成モデルを、参照音声で条件付けし、環境ノイズを含むリアルな会話シーンを生成可能にする ・従来の教師データ依存から解放され、野生環境での実録音パターンに基づいた自然な多話者音声シーンの合成が実現できる可能性がある