AI百科（生成AIと知識統合）

総合・百科・序論 — AI百科（生成AIと知識統合） 概要

総合・百科・序論分野のAI百科（生成AIと知識統合）領域の概要と入門ガイド

知識の未来 — AI時代の百科事典

LLMと知識検索、RAG、知識グラフ、人間の知識組織化の意義

IBM Watson

IBM Watsonが2011年にJeopardyで優勝した事例から、百科資料を検索・統合して答える技術を学ぶ

知識グラフ

Googleが2012年に導入したKnowledge Graphから、人物・場所・作品を実体関係で結ぶ

単語埋め込み

Googleのミコロフらが2013年に発表したword2vecから、語の意味関係をベクトル化する

BERTの文脈表現

Googleが2018年に発表したBERTから、前後双方の文脈で語の意味を捉える方法を学ぶ

GPT-3の少数例学習

OpenAIが2020年に発表したGPT-3から、少数の例示だけで知識課題へ応答する仕組みを読む

ChatGPTの対話型知識生成

OpenAIが2022年に公開したChatGPTから、質問に応じ説明を再構成する利用と限界を学ぶ

指示チューニング

Googleが2021年に発表したFLANから、多様な課題指示でモデルの汎用応答力を高める

人間フィードバック強化学習

OpenAIの2022年InstructGPT論文から、人間の順位評価で回答方針を調整する方法を読む

検索拡張生成

パトリック・ルイスらの2020年RAG論文から、外部文書検索を回答生成へ接続する仕組みを学ぶ

密ベクトル検索

Facebook AIの2020年DPR論文から、質問と百科段落を意味ベクトルで対応させる

FAISS近傍探索

Metaが2017年に公開したFAISSから、大規模な百科ベクトルより関連項目を高速取得する

ReAct推論

ヤオらの2022年ReAct論文から、思考過程と検索ツール操作を交互に行う方法を学ぶ

外部ツール呼出し

Googleの2021年Toolformer前史となる研究群から、計算機や検索APIを回答へ組み込む構想を読む

CLIPによる画像言語統合

OpenAIが2021年に発表したCLIPから、画像と説明文を共通ベクトル空間へ配置する

マルチモーダル百科応答

OpenAIが2023年に公開したGPT-4Vから、図表や写真を読み文章知識と統合する方法を学ぶ

長文コンテキスト

Beltagyらの2020年Longformerから、百科の長い記事を疎な注意機構で処理する

MemGPTの外部記憶

Packerらの2023年MemGPTから、会話履歴と文書を階層的な記憶として管理する方法を読む

生成AIの幻覚

2023年Mata対Avianca訴訟の架空判例提出から、流暢な誤情報を検証する必要を学ぶ

根拠文書へのグラウンディング

Googleの2020年REALM研究から、生成内容を検索した文書へ結び付ける方法を読む

出典付きAI検索

Perplexity AIが2022年に公開した検索から、回答文と参照ページを並べる方式を学ぶ

知識グラフ拡張生成

Lewisらの2021年KILTベンチマークから、構造化実体と文書検索を知識課題で評価する

エンティティ・リンキング

MilneとWittenの2008年Wikipedia Minerから、文中の名称を百科項目へ対応させる

質問分解

Pressらの2022年Self-Ask研究から、複雑な問いを複数の検索可能な小問へ分ける方法を学ぶ

FEVER事実検証

Thorneらが2018年に公開したFEVERから、Wikipedia証拠で主張の支持・反証を判定する

回答確信度の較正

Guoらの2017年ニューラル較正研究から、予測確率と実際の正答率を一致させる方法を読む

モデル知識編集

Mengらの2022年MEMITから、特定の人物・事実だけを言語モデル内部で更新する

知識鮮度

Lazaridouらの2021年時間的言語モデル研究から、学習後に変化した事実への対応を考える

学習データと著作権

米国作家組合が2023年に生成AI企業を提訴した事例から、百科利用と権利処理を読む

AI倫理と知識統合

UNESCOが2021年に採択したAI倫理勧告から、透明性・公平性・人間監督の原則を学ぶ