Attentionは誰が配るのか
AIモデル・知能 エージェント・データ基盤 AIインフラ・産業 考察・仮説
この資料の日時
元資料の日付と、その本文が公に存在した確認日時は別の記録です。
本文に含まれる語句 AIエージェント
出典・更新履歴・検証情報
この保存版のデータを照合するための情報です。元記事の初公開日とは区別しています。
- データセットの版
- 2026.10.17.1
- 記事内容のSHA-256
be0313cd6bbc717d80b57a24822c0ee9e0a5296eea772bbbda32aff523488d08- 保存版のSHA-256
7a764de232b4f6f34a0189cb504d494e8b1bf4da5f5f4913730ecdd39de43c12
外部証明の最終検査結果は詳細を開くと表示します。
Attentionは誰が配るのか
#これに似た内容の記事をこの記事を投稿する数時間前に少しの間だけ公開しましたが何か違うと思い前の記事を削除し、もう少し深く思考し今回の記事を作成しました。
#AIが推薦・関係性・Observabilityを書き換える時代
#生成AIによって、コンテンツを作る速度は急速に上がっている。
#文章、画像、動画、音楽、3Dモデル、ゲーム、VRワールド、プログラム。
#これまで人間の制作時間そのものが供給量を制限していた領域に、生成AIとAI Agentが入ってきた。
#当然、その先には「作られすぎる」という問題がある。
#しかし、AI時代の本当の変化はそこだけではない。
#大量に作られたものを、
#誰に、何を、どの順番で見せるのか。
#このAttention配分そのものもまたAIによって再設計され始めている。
#そして現在の推薦システムを見ると、
#単純な、
#「クリックされた」
#「Likeされた」
#「再生された」
#という瞬間値から、
#そのコンテンツを見た結果、人・情報・コミュニティの関係がどう変化したのか
#という長い軌跡へ評価対象が移動し始めている。
#さらにAIは、その膨大な観測履歴から新しいPatternを探し、推薦モデルそのものを改善する側にも入り始めた。
#AIが作り、
#AIが観測し、
#AIが改善し、
#その結果としてまた新しい人間行動が生まれる。
#Attention Economyは、かなり違う段階へ入りつつある。
##
1 AI以前からAttentionは希少だった
#インターネットには以前からコンテンツ過多が存在した。
#YouTubeには大量の動画がある。
#Xには大量の投稿が流れる。
#小説投稿サイトには読めないほどの作品が投稿される。
#VRChatには大量のWorldが存在する。
#問題はStorageではない。
#人間の時間である。
#Content Supply
████████████████████████████████
Human Attention
████人間の一日は24時間から増えない。
#だからプラットフォームは、
#検索、
#ランキング、
#Trending、
#関連コンテンツ、
#フォロー、
#推薦、
#といった仕組みを使い、
#有限なAttentionを振り分けてきた。
#AIはこの問題を作ったわけではない。
#供給側の制約を大幅に下げることで、以前からあった問題を急激に拡大している。
##
2 初期の推薦は「何が反応されたか」を見るものだった
#非常に単純化すれば、
#以前の推薦は、
#Impression
↓
Click
↓
Like
↓
ShareのようなSignalを使っていた。
#もちろん実際のシステムは昔からもっと複雑だったが、基本思想としては、
#反応されたものをもっと表示する
#という構造が強かった。
#問題は、反応がそのまま価値ではないことである。
#刺激的な投稿。
#怒りを誘う投稿。
#誇張タイトル。
#釣りサムネイル。
#Fake。
#こうしたものもAttentionを集める。
#実際、Scienceに掲載された大規模研究では、Twitter上のFalse newsはTrue newsより速く、遠く、深く、広く拡散する傾向が確認された。つまりViralityとTruthは同じものではない。
#Attentionを集めたからといって、
#「良い情報だった」
#とは限らない。
##
3 Clickの次にDwellが重要になった理由
#そこで重要になったのが、
#クリックした後に何が起きたか
#である。
#推薦研究では、ClickだけをPositive Signalとして使うとClickbaitやTitle-Content mismatchに弱い。
#Dwell timeを使ってClickを再評価する研究では、実際にOffline/Online双方で推薦性能の改善が報告されている。
#Dwell time:滞在時間
#つまり、
#CTR 高いだけでは足りない。
#CTR 高い
+
実際に読んだ
+
滞在したまで必要になる。
#しかしこれさえ単純ではない。
#Social media上のAttention研究では、Sensationalな内容には長く注意を向けながら、実際にEngageする段階ではCredibleなコンテンツをより選ぶという分離も観測されている。
#「見る」
#と、
#「支持する」
#は違うのである。
##
4 現在のXを見ると推薦の複雑化がよく分かる
#2026年に公開されているXの推薦コードを見ると、この変化は非常に分かりやすい。
#Phoenix ranking modelは、
#- Favorite
- Reply
- Repost
- Click
- Profile click
- Share
- DM Share
- Dwell
- Dwell time
- Follow author
だけでなく、
#- Not interested
- Mute
- Block
- Report
- Not dwelled
といったNegative Signalまで同時に予測している。
#重要なのは、単純に、
#「Like 1回＝○点」
#としているわけではないことだ。
#モデルは、
#このユーザーがこの投稿に対して各Actionを起こす確率#
を予測し、それらを重み付けしてRankingへ利用する。
#さらに相互Follow関係に対するReplyやDwellへ追加Boostを与える実装も存在する。
#つまりすでに、
#Content
+
User history
+
Relationship
+
Expected behaviorを統合した評価になっている。
##
5 「投稿内容」以上に「関係性」が重要になり始める
#ここでAttention設計の重要な変化が見えてくる。
#例えば同じ1000 Likesでも、
#何の関係もない1000アカウントから来た場合と、
#普段から作者を読み続けている人、
#友人、
#専門家、
#同じCommunity、
#異なるCommunity、
#から発生した場合では意味が違う。
#さらに投稿後に、
#Post
↓
Reply
↓
Follow
↓
継続Conversation
↓
数週間後にもInteractionが起きる場合、
#その投稿は単にLikeを得たのではなく、
#新しいRelationshipを作った
#とも言える。
#AI時代には、こうしたTemporal Relationship Graphを読む能力が急激に高まる。
##
6 「初速」から「軌跡」へ
#従来は投稿直後の反応が非常に重要だった。
#t + 5 min
Like 100
t + 30 min
Repost 500のような初速である。
#Cold Startでは今後も重要だろう。
#しかし履歴が蓄積されれば、評価は変化できる。
#t0
投稿
t+10m
急速な反応
t+1h
別Communityへ伝播
t+6h
専門家の反論
t+1d
Source追加
t+7d
再引用
t+30d
作者Followが継続投稿の価値は固定値ではなく、
#時間とともに更新されるTrajectory
#になる。
#AIはこのような多次元時系列Patternを読むことに向いている。
##
7 炎上は「悪いSignal」とは限らない
#ここで単純なPositive / Negative分類は破綻する。
#炎上や敵対的Replyは不快な体験を生むことがある。
#しかし対立は、
#異なる情報を接続する装置
#になることもある。
#例えば、
#主張A
↓
強い反論B
↓
専門家CがSource提示
↓
別分野Dから補足
↓
元の主張が修正なら、
#最初の投稿が雑であっても、
#結果として高いInformation Gainが生まれる。
#さらに、
#もともと接続されていなかった二つのCommunityが、
#その論争をきっかけに互いの情報を見るようになることもある。
#つまり、
#Conflictそのものではなく、Conflictが何を生んだか
#を見る必要がある。
##
8 さらに厄介なのは「低品質な起点から価値が創発する」こと
#例えば最初の投稿者の目的が単なるImpression稼ぎだったとする。
#内容も粗い。
#ところが炎上した結果、
#専門家が反論し、
#資料を提示し、
#非常に有益なDiscussionが発生した。
#この場合、
#Seed quality 低い
Attention capture 高い
Conversation quality 高い
Information gain 高い
Long-term value 高いとなり得る。
#だから、
#投稿単体の品質
#と、
#その投稿から発生したCascade全体の価値
#は分離しなければならない。
#これを分離しないと、
#「専門家が訂正してくれるから雑な投稿ほど価値が高い」
#という間違ったIncentiveを作ってしまう。
##
9 Observabilityから「中身」はどこまで分かるのか
#ここは非常に重要である。
#Observabilityという言葉は本来、Logs、Metrics、Tracesなどシステム内部を理解するために使われる。
#この記事では少し広く、
#プラットフォーム上で観測可能な行動履歴・関係履歴・伝播履歴
#まで含めて考える。
#内容を直接読まなくても、
#誰が
いつ
誰から
誰へ
何秒後に
どのCommunityへ
どれくらい長く
その後どう行動したかには膨大な情報が含まれる。
#Fake news研究では、この考え方がかなり前から実証されている。
#2018年AAAIの研究では、ニュース本文そのものではなくPropagation Pathを時系列として扱い、拡散開始5分後の段階でFake newsをTwitterで85%、Sina Weiboで92%のAccuracyで分類した。
#つまり、
#情報の「広がり方」に内容の性質が漏れ出す。
##
10 ただし「Fakeらしい」と「Fakeである」は違う
#ここには重要な限界がある。
#Behavior Patternだけを見て、
#Truthそのものを証明することはできない。
#非常に刺激的なTrue informationもある。
#非常に静かに広がるFakeもある。
#だから観測履歴から分かるのは、
#高Novelty
異常な拡散速度
特定Clusterで同期
Correction ratioが高い
Cross-community burst
Long-term referenceが少ないのような、
#Behavioral Profile
#である。
#最終的なTruth verificationとは別問題だ。
##
11 Slopについても同じ
#「AI Slop」という言葉は便利だが、定義は曖昧である。
#2025年の研究 Measuring AI "Slop" in Text では、Slopを一つのラベルとしてではなく、
#- Information density
- Relevance
- Factuality
- Repetition
- Templatedness
- Coherence
- Verbosity
- Tone
などへ分解している。
#さらに「これはSlopか」というBinary判断は人間同士でもかなり主観的だが、具体的なDimensionへ分解すると評価可能性が高まることが示されている。
#これは推薦システムにも重要な示唆を持つ。
##
12 「これはSlopか？」と聞かない
#例えばVRChat Worldでも、
#Slop = 0.83と一発判定するのは危険だ。
#代わりに、
#Template similarity
Novelty
Interaction completeness
Quick exit
Return
Favorite
Friend invite
Performance
Broken interactionsを見る。
#投稿なら、
#Information density
Novelty
Source quality
Repetition
Long-term citation
Cross-community propagation
Correction ratioを見る。
#そして用途によってWeightを変える。
#つまりAI時代の評価は、
#LabelからVectorへ
#移る。
##
13 「良いもの」は単一指標では現れない
#良質なコンテンツには、一つの魔法のMetricがあるわけではない。
#むしろ、
#異なるコストを持つ複数のHuman Actionが同時に同じ方向を向く
#ことが重要だと思われる。
#例えば、
#Click 軽い
Like 軽い
Comment 少し重い
Share 重い
Follow 将来のAttentionを渡す
Return 再び時間を使う
Purchase 金銭を使う
Friend Invite 社会的信用を使う後ろへ行くほど偽装コストも高くなる。
#だから、
#CTR ↑
Return ↑
Share ↑
Follow ↑
Long-term reference ↑のように複数Signalが整合するほど、
#「価値を生んだ可能性」は高くなる。
##
14 逆にSlop的Patternはどうなるか
#例えば、
#Production frequency ↑↑↑
Template similarity ↑↑
CTR ↑
Quick exit ↑
Long-term reference ↓
Return ↓
Follow conversion ↓
Conversation depth ↓のようなPatternは考えられる。
#ただしこれは、
#「これなら必ずSlop」
#というRuleではない。
#大量投稿でも優れたCreatorは存在する。
#短時間作品ならStayは短くて当然。
#だからすべて、
#Contextual Metric
#として読む必要がある。
##
15 Metaは推薦モデル自体のObservabilityを巨大化している
#ここから現在のPlatform側の実装を見ると面白い。
#Instagramでは2025年時点で1000を超えるML ModelがRecommendation Systemを構成している。
#FeedやStoriesだけではなく、
#Notification、
#Comment、
#Tag候補、
#Ranking funnelの各段階などで異なるモデルが動き、その中で常時Experimentが行われている。
#Metaが問題にしたのは、
#モデル数が増えすぎて、
#どのモデルが何のBusiness Functionを持ち、正常に働いているか分からなくなる
#ことだった。
#そこでModel Registry、Launch tooling、Model stability、Calibration、Normalized entropyなどを整備している。
#つまり推薦システム自体が、
#巨大なObservability対象
#になっている。
##
16 そしてAI自身が推薦モデルを改善し始めた
#ここが現在最も大きな変化の一つである。
#Google Researchが2026年に発表した、
#Self-Evolving Recommendation System
#では、Gemini系LLM Agentが、
#- Hyperparameter
- Optimizer
- Model architecture
- Reward function
まで変更候補を生成する。
#Offline Agentが大量のHypothesisを高速に試し、
#Online AgentがProduction環境でDelayed North Star Metricを検証する。
#Googleはこの仕組みによる複数のYouTube Production Launchを報告している。
#つまり、
#User behavior
↓
Observation
↓
AIがHypothesis
↓
推薦Model変更
↓
Experiment
↓
新しいUser behavior
↓
再びAIというLoopはもう始まっている。
##
17 Metaでも同じ方向が始まっている
#MetaのRanking Engineer Agentも、
#Ads Ranking Modelについて、
#- Hypothesis生成
- Training job起動
- Error debug
- Result analysis
- 次のExperiment
を長期間自律的に回す。
#初期Production rolloutでは、6モデルにおける平均Accuracy ImprovementがBaseline比2倍、Engineering Outputが5倍になったとMetaは報告している。
#さらに実験履歴は中央Databaseへ蓄積され、
#Agentは過去の成功・失敗Patternを使って次のHypothesisを作る。
#これは完全な無制約自己改善ではない。
#しかし、
#Observability → Experiment → Memory → Next Experiment
#というBounded Recursive Optimizationにはかなり近い。
##
18 推薦アルゴリズムの「目的関数」も固定ではなくなる
#Google Researchは別の2026年研究で、YouTubeのHomepage、Notifications、Watch Nextにおいて、複数Task間の関係そのものを学習する仕組みをProduction recommendation stackで検証し、AccuracyとSatisfied User Engagement双方の改善を報告している。
#つまり、
#Watch time 30%
Like 10%
Share 20%と人間が固定Weightを設計するだけではない。
#モデルが、
#このユーザー、このContextでは、これらのSignal同士がどう関連するのか#
まで学習していく。
##
19 Long-term Outcomeへ評価が伸びる
#さらに重要なのが時間軸である。
#GoogleのRecommendation研究では、
#短期的な行動から、
#数か月後にもユーザーがPlatformを再訪するか
#を予測するSurrogateを作り、Recommendation Optimizationへ利用する研究が行われている。
#これはかなり大きな思想変化である。
#評価対象が、
#この動画をクリックしたかから、
#この推薦を受けた結果、
数か月後にこの人とPlatformの関係はどうなったかになる。
#つまりRecommendationは、
#瞬間的Attentionの最適化
#から、
#Relationship trajectoryの最適化
#へ伸びている。
##
20 RobloxはVRChatの未来を考える上で特に重要
#Robloxは2026年、AIによるGame Creationを大幅に拡張している。
#注目すべきは、
#AI制作物だからDiscovery上で特別扱いするのではなく、既存作品と同じRetention-based Rankingへ入れる
#という方針である。
#Robloxは公式に、
#長期Retentionを生まないAI SlopはDiscovery上で伸びない、という思想を示している。
#さらに今後、
#- Playtesting Agent
- Analytics Agent
- Experiment Agent
を導入するとしている。
#つまり、
#AIでGame制作
↓
Analytics Agentが観測
↓
Experiment Agentが改善案
↓
Retention / Engagement / Monetization向上というLoopをCreator側にも提供しようとしている。
#これは「AI大量生成への回答」が、
#AI DetectionではなくObservability＋Outcome Optimization
#になり得ることを示している。
##
21 VRChatも同じ圧力を受け始めている
#2026年10月6日、VRChatはAI利用について声明を出し、
#AI生成の不正確なThumbnailへの対応と同時に、
#Discoverabilityそのものが重大な問題
#だと明言した。
#今後数週間で複数のDiscoverability Experimentを行うとしている。
#さらにWorld Analyticsも開発中である。
#現在Creatorが見られる情報は限られているが、VRChatは、
#- Visits over time
- Returning users
- Stay time
- Instance size
- Language
- Performance
などを把握できる仕組みを検討し、2026年8月時点では数十人規模のCreatorで初期テストを行っている。
#つまりVRChatも、
#Worldを公開する場所
#から、
#Worldで何が起きたかを観測してCreatorとDiscovery双方を改善するPlatform
#へ移動する入口にいる。
##
22 VRChatならどんな指標が強くなるのか
#VRChatでは動画サイトより関係性がさらに重要になる。
#例えば、
#World card impression
↓
Join
↓
Stay
↓
Favorite
↓
Returnだけでなく、
#Friend Invite
Portal
Group visit
Friend creation
Repeat co-visitまで測れる可能性がある。
#特に、
#一人で入ったユーザーが友人を呼んだ#
というSignalはかなり強い。
#さらに、
#初対面だった二人がそのWorldで出会い、30日後にも一緒に別Worldへ行っている#
まで分かれば、
#そのWorldは単に「滞在時間が長い」のではなく、
#人間関係を生んだ
#とも評価できる。
#これは動画サイトにはないSpatial Social Graphである。
##
23 ただしFriendが増えれば良いとも限らない
#ここでもObjectiveは単純ではない。
#炎上から長期的な議論が生まれることがあるように、
#VRChatでも短時間の体験が価値を持つ場合がある。
#一人で静かに鑑賞するArt Worldもある。
#Social Worldと同じMetricを使うべきではない。
#したがって、
#Game
Art
Social
Narrative
Music
ExperimentalなどContextごとに期待されるOutcomeを変える必要がある。
#AIが重要になるのは、
#Worldの目的そのものをSemanticに理解できるようになること
#でもある。
##
24 RedditはHuman authenticityを価値に変えようとしている
#AI大量生成が増えるほど、
#「本当に人間が反応したのか」
#の価値も上がる。
#Redditは2026年、AI時代でもHuman conversationを守ることを強調し、Spam exposureを約20%削減し、毎日約200万件のInauthentic voteを無効化していると公表した。
#一方でReddit Answersは、AIが人間のDiscussionを要約してユーザーへ提示する。
#つまり、
#AI
↓
Human conversationを探索
↓
圧縮
↓
Humanへ返すという構造である。
#AI時代には、
#Human Ground Truth自体が希少資産になる
#可能性がある。
##
25 noteは「AIに読まれる」ことを前提にし始めた
#noteも2026年にLLMを利用した推薦エンジンへ刷新した。
#テストではカテゴリページのImpressionが前年同月比4.3倍、そこからのPVが2.2倍になったと公表している。
#さらにCreator Pageをllms.txtへ対応させ、
#AIがCreator本人の一次情報を読み取りやすくする方向へ動いている。
#つまり、
#人間向けSEOだけではなく、
#Machine-readable Identity
#が重要になり始めている。
##
26 Human Attentionの次にMachine Attentionが出てくる
#ここまでの流れを進めると、次の段階が見えてくる。
#AI Agentが、
#記事、
#動画、
#商品、
#研究論文、
#VR World、
#を人間の代わりに大量に探索する。
#100,000 candidates
↓
AI Scout
↓
300 candidates
↓
AI Ranking
↓
10 candidates
↓
Human人間自身が10万件を見る必要はなくなる。
#AIは人間の時間そのものを増やすわけではない。
#しかし、
#Human Attention Efficiency
#を大幅に上げることはできる。
##
27 その時AIは「Judge」より「Scout」の方が適している
#AIに、
#World A = 87点と決めさせるのは危険である。
#何もない白い部屋が優れたArt Worldかもしれない。
#数分で終了する作品が傑作かもしれない。
#だから、
#良い / 悪いを直接判定するより、
#静か
短い
少人数向け
Puzzleあり
Low-light
Social interaction少
Performance良好
Horror軽度というExperience Vectorを作る方がよい。
#そして、
#User intent
×
Content characteristicsでCompatibilityを判断する。
##
28 Machine Attentionが増えると、Observabilityがさらに必要になる
#ここに面白い再帰がある。
#AIが人間の代わりに100万件を観測する。
#すると今度は、
#そのAIが何を観測したのかを人間は全部確認できない。
#Human cannot observe everything
↓
AI observes
↓
Human cannot observe AI either
↓
AI/Observability observes AIとなる。
#実際、DatadogのAgent Observabilityでは、個別Traceを見るだけでなく、本番TrafficをEmbeddingとClusteringによって自動的にPattern化し、
#- 何を聞かれているか
- どんなBehavior groupがあるか
- どこで失敗しているか
を自動検出する機能まで出ている。
#ObservabilityそのものにAIが入る。
##
29 Observabilityは「見る」から「改善Loop」へ進んでいる
#Datadogではすでに、
#Trace
↓
Pattern
↓
Experiment
↓
ResultというLoopが製品化され始めている。
#Agent Observability ExperimentsではPrompt、Model、Provider、Architectureなどの変更を比較し、評価結果を集約できる。
#つまりObservabilityは、
#何が起きたのか#
を見るだけではなく、
#何を変えれば改善するのか#
へ上がり始めている。
#これはGoogleやMetaのSelf-Evolving Recommendationと同じ方向である。
##
30 ここにJevのようなモデルが入る余地がある
#ただし一つ問題がある。
#観測イベントが100億件あるとして、
#すべてを巨大なFrontier LLMへ投げるのは高価すぎる。
#そこで興味深いのが2026年9月にTypeSafe AIが公開したJevである。
#Jevは通常のLLMのような文章生成を目的とせず、
#unstructured stateを受け取り、typed probabilistic decisionを返す
#System One Modelとして設計されている。
#例えば、
#この投稿は過去投稿の反復か？
このWorldはこのユーザーに合うか？
このAgent actionは危険か？
この検索結果はQueryに答えているか？といった狭いDecisionを大量に処理する。
##
31 Jevは推薦そのものではなく「意味判断の中間層」になる可能性がある
#典型的には、
#大量データ
↓
Retrieval / RecSys
↓
候補100件
↓
Jev
↓
意味的なScore / Choice / Risk
↓
Policy
↓
Final Rankingという使い方になる。
#つまり、
#候補生成をJevに任せるのではなく、候補に対するSemantic judgmentを任せる。
##
32 すでにElasticがJevをSearch Rerankingで試している
#2026年9月30日、ElasticはElasticsearchのHybrid Search結果をJevで再評価する実験を公開した。
#250件のAmazon Shopping Queriesで、
#nDCG@10は0.9351から0.9565、
#Exact MRRは0.9201から0.9616へ改善した。
#重要なのは数値だけではない。
#構造である。
#Elasticsearch
候補を探す
↓
Jev
候補の意味を判断する
↓
Deterministic Policy
最終順位を決めるという分業である。
##
33 これはAttention設計にもそのまま応用できる
#例えば投稿について、
#Raw dataは通常のAnalyticsで計算する。
#CTR = 7.2%
Return = 14%
Share = 5%これはSQLでよい。
#Embeddingで類似Contentを探す。
#その上でJevのようなDecision Modelが、
#Novelty probability
Expectation mismatch
Information density
Cross-community bridge
Template repetition
Integrity riskなどを大量に評価する。
#そして不確実なケースだけFrontier LLMへ回す。
#100 million events
↓
Rules / filters
↓
1 million
↓
ML / retrieval
↓
100,000
↓
Jev-like model
↓
1,000 uncertain
↓
Frontier LLM
↓
10
↓
Humanという階層が考えられる。
##
34 つまりAI時代には「知的なif文」が大量に必要になる
#これはJevのようなモデルの一番面白い位置である。
#巨大LLMは深いReasoningには強い。
#しかしすべての判断に巨大モデルを使う必要はない。
#Hard fact
→ Code
大量の狭いSemantic judgment
→ Jev型Decision Model
複雑なReasoning
→ Frontier Model
高Risk / High uncertainty
→ Humanという役割分担が自然になる。
#Attention配分では毎秒膨大なDecisionが必要なので、この中間層の価値は大きい可能性がある。
##
35 「良い投稿」をAIが完全に理解できるのか
#ここまで来ても、一つの問題は残る。
#AIが観測量を増やし、
#Pattern発見能力を高め、
#Recommendationを改善しても、
#何を価値とするか
#は自動的には決まらない。
#炎上を減らすべきなのか。
#異論を増やすべきなのか。
#滞在時間を増やすべきなのか。
#Platformから離れるほど満足したなら、それを成功と見るのか。
#Social connectionを増やすべきなのか。
#真実だが不快な情報を出すべきなのか。
#これらはすべて違うObjectiveである。
##
36 Goodhart's Lawも強くなる
#もしPlatformが、
#「Share数を重視する」
#と明示すれば、Shareを稼ぐ投稿が作られる。
#「Friend creationを評価する」
#なら、それを人工的に発生させる方法が開発される。
#MetricがTargetになるとMetric自体が壊れる。
#だから将来の推薦は、
#One KPIではなく、
#数百Signal
+
Relationship graph
+
Temporal trajectory
+
Semantic context
+
IntegrityからLatent representationを作り、
#状況ごとにObjectiveを変える方向へ進む可能性が高い。
##
37 Attention問題は解決されるのではなく高度化する
#AIによってRecommendation精度が上がれば、
#悪いコンテンツを避けやすくなる。
#しかし同時に、
#AIによって良いコンテンツ自体も大量に増える。
#例えば以前、
#良作 100
見られる 20だったものが、
#良作 100,000
見られる 20になる。
#AI Scoutがその中から最適な20個を選んだとしても、
#99,980個の良作は見られない。
#つまりAttention問題は、
#粗悪品を排除する問題
#から、
#良いものが多すぎる問題
#へ移る可能性がある。
##
38 だから有名人・関係性・話題性は消えない
#AI推薦が高度化しても、
#有名Creator、
#友人、
#所属Community、
#Trending topic、
#へのAttention集中は完全にはなくならない。
#理由は単純である。
#そこには履歴があるからだ。
#有名Creator
→ 過去Dataが多い
Friend
→ Relevanceを予測しやすい
Trending
→ 即時Signalが大量未知のCreatorにはDataがない。
#Recommendation Systemが合理的になるほど、
#既知のものへ寄る力も発生する。
#だからExploration枠が必要になる。
##
39 これからの推薦は「人気ランキング」ではなく社会システム制御へ近付く
#最終的には、
#Post A = 91点というRankingだけではなく、
#この投稿をこのCommunityへ入れると何が起こるか？#
新しい情報が生まれるか？#
対立だけ増えるか？#
異なるGroupを繋ぐか？#
作者への長期信頼が生まれるか？#
Platformとの関係はどう変わるか？#
を予測する方向へ進む可能性がある。
#これは単なるContent Recommendationではない。
#Dynamic Social System Modeling
#に近い。
##
40 Recommendation・Security・Slop Detectionが同じGraphを見る
#興味深いことに、ここでは異なる分野が同じData Layerを利用する。
# Interaction Graph
│
┌────────────┼────────────┐
↓ ↓ ↓
Recommendation Security Integrity
↓ ↓ ↓
価値を見る 操作を見る 真偽・Spamを見るRecommendation側は、
#「価値ある関係が生まれたか」
#を見る。
#Security側は、
#「100アカウントが毎回同じタイミングで反応していないか」
#を見る。
#Fake detection側は、
#「異常な伝播Patternではないか」
#を見る。
#Slop detection側は、
#「大量投稿されても何も関係が残っていないか」
#を見る。
#つまり将来的に重要なのは、
#関係性を時系列で保存し、意味を読めるObservability Layer
#になる。
##
終わりに――Attentionは「見る量」から「関係変化」へ
#AIによって、コンテンツ制作量は急増する。
#同時にAIは、
#それを観測し、
#分類し、
#圧縮し、
#推薦する。
#さらに推薦アルゴリズムそのものをAIが実験・改善するところまで始まっている。
#この流れの中でAttentionの意味も変わっていく。
#以前は、
#何回見られたかだった。
#次に、
#どれくらい見られたかになった。
#そして今後は、
#それを見た結果、
何が変わったのかへ進む。
#Followしたのか。
#戻ってきたのか。
#友人を呼んだのか。
#新しいCommunityへ情報が移動したのか。
#反論から新しい情報が生まれたのか。
#数か月後にも参照されたのか。
#人間同士の関係が生まれたのか。
#その結果としてPlatformとの関係がどう変わったのか。
#ここまでがRecommendationの評価対象になる。
#そしてその膨大な履歴を人間が読むことはできない。
#だからAIが読む。
#しかしAIが読む量も膨大になる。
#そこでObservabilityがAIを観測し、
#Jevのような高速Decision Modelが大量のSemantic判断を行い、
#難しいケースだけFrontier Modelへ渡す。
#そのFrontier Modelが新しい仮説を作り、
#Experimentを行い、
#推薦が改善され、
#新しい人間行動がまたDataになる。
#Human / AI Creation
↓
Content
↓
Human behavior
↓
Observability
↓
Pattern discovery
↓
Decision models
↓
Frontier AI
↓
Experiment
↓
Recommendation
↓
Human behavior
└────────────↺このLoopは、すでにYouTubeやMetaでは部分的にProductionへ入り始めている。
#RobloxはCreator側へAnalytics AgentとExperiment Agentを展開しようとしている。
#VRChatは今まさにWorld AnalyticsとDiscoverability Experimentへ入り始めた。
#Xでは複数のBehavior probabilityとRelationship SignalをTransformerが同時に扱う。
#RedditはAIを使いながらHuman authenticityを守ろうとしている。
#noteはAIがCreatorの一次情報へ辿り着けるようにしている。
#そしてObservability企業は、
#「何が起きたかを見る」
#場所から、
#「観測した結果を次の改善へ接続する」
#場所へ上がり始めている。
#AI時代のAttention問題は、
#AI生成物を禁止するかどうかだけではない。
#膨大な人間とAIの行動履歴から、何を価値と定義し、誰へ何を見せ、その結果としてどのような社会状態を作るのか。
#というPlatform Architectureそのものの問題になりつつある。
#