以下の内容はhttps://kayanomi.hatenablog.com/より取得しました。


今のAIにはメタ認知レベルが全然足りない

AIでTRPGをやってみたら、いつの間にか終わりのないマラソンを走らされていた。

序盤はいい感じで進んでた。
ちゃんとAIがGMをやってくれて、ストーリー通り進んでる気がする。
だが、しばらくするとなにがか変だ。なーんか進まないのである。

 

進んだ気がしない。あちこちで新要素が見つかる。たくさん情報が手に入る。
けれど、なにが核心かわからない。近づけない感じがする、永遠に。

 

なにかがおかしいと思って聞いてみると、
ストーリーを脱線してオリジナルになっていた。答えがない。

私の反応に合わせてそれらしい反応を返しているだけで、
ストーリーの終わりを作るのは自分になっていた。なんてやつ!

 

Level-K 理論

こういうことがあったので、AIに対してメタ認知を与えたかった。

問いに対しての反応だけでなく、
ストーリーとしてオチを与えられるよう全体を統括するような思考だ。

 

仕事でも同じ。AIはほとんど一問一答は完璧。一つのタスクに良い回答を返す。
だけど「良いアイディア」は驚くほどでてこない。

人間が見た瞬間にこりゃだめだとわかるのに、
AI自身ではそれを自分で判断しようとしない。自己チェックができない。

 

この抽象的な思考、メタ認知スキルについて、
個人的には Level-K 理論を当てはめたい。
(拡大解釈なのはわかってますけど、わかりやすいんで)
Level-Kは要は対戦ゲームとかで相手がどれくらい深く裏の裏を読んでるか、という話。

scrapbox.io

Kというのは、相手の戦略を何段階まで読んだ上で
自分の戦略を決めるかという数を示す

ただ純粋に目の前の合理性だけを見て戦略を決めるのがK=0の思考。

相手(あるいは自分以外の皆)がK=0で思考していることを読んだ上で
それなら自分はこうした方が得策だと決めるのがK=1の思考。

さらに、皆がK=1の思考くらいはしてくるだろうと踏んで、
さらにその上で自分はどうするか決めるのがK=2の思考

このコンテストで読者は、0~100の間の整数を1つ選ぶように求められ、
全参加者が選択した数字の平均値に3分の2をかけた値に最も近い数字を書いた人が
勝者であると決められました。
たとえば、全員が書いた数字の平均が60だった場合、40を書いた人が勝者ということです。

 

コンテストは1,000人以上の人が参加しましたが、
選ばれた数の平均は18.91であり、勝者は13を選んだ人でした。
他に選ばれた数字で多かったのは0、1、22、33でした。

先ほど申し上げた通り、0と1は[ナッシュ均衡]の値であり、
22はK=1の思考レベル33はK=0の思考レベルの人が選ぶ数字であり、
一方でwinning numberであった13はK=2の思考レベルで選ぶ数字に近いものです。

 

このコンテストにおける勝者は、
Kレベル思考を極限まで重ねてナッシュ均衡に到達した人ではなく、
K=1くらいの思考をする人が多いであろうことを察し、
K=2くらいの思考レベルで立ち止まるセンスを持った人だった

 

AIの思考レベルは?

こうして考えると AI は Lv0 はほぼ完璧だろう。
問いと答えがセットなので。

 

問題は Lv1 からだ。AIに対しての仕事やタスクの依頼について
「それがなぜ発生したのか」「前提条件の罠はなにか」
「本当に求められていることはなにか」を考える必要がある。

 

顧客がドリルがほしいと言ったとき、
ドリルを探すのではなく、穴を開けてやれという話だ。

 

これはある程度は成長してきて、たまにできていることもある。
プログラミングならセキュリティに配慮したり。
ちょっとしたサービスみたいな気遣いだ。

 

Lv2はさらに違う問題になる。Lv1をうまく設計する方法を考え始める。

要は新入社員教育を考え始めるわけだ。メタ認知用の学習を考える。
なにがあると新入社員はうまくやれるだろうか?
どうやったらメタスキルを身につけてより良い回答ができるだろう?

 

Lv3 はまあ組織的に考えれば部長とか社長とかのスキルに近いだろう。
分業した専門家の意見をとりまとめたり、改善したり、運用するようなものだ。

 

メタ認知スキルの学習の難しさ=評価しにくさ

高いLvのメタ認知スキルの学習は難しいはずだ。
なぜなら、評価がしにくいから。

 

Lv0は質問と答えがセットであたりがある。
だがメタ認知スキルを定義し、Lv1,Lv2を評価しようとすると問題が起きる。

本当にそのメタ認知スキルで出力は良くなったのだろうか?


組織的に考えるならプログラマーが書いたコード自体は評価しやすい。
バグもテストもできるから。速度もわかるし、読みやすさも人間同士評価できる。

問題は、リーダーやマネージャが指導した内容が適切だったかどうか。

良いアドバイスやレビューができていたか?
なにを教えたことがよかったのか?なにが改善に繋がったのか?

答えがでずらい、評価に時間がかかる、評価がブレる、変数が多い。
プログラマーが休んで回復したから良いコードが書けたのなら、メタ認知関係ない。
実はいい本があってそのとおりに書いたから良いコードがかけたり。

人間だってマネジメントスキルが上手い人って評価できないでしょう?
良いアイディアを出力する評判の人がいる…その人のスキルは言語化できるのか?
第二のその人を作れるだろうか?その人はなにが原因で良い出力がだせるのか?

 

結局のところ、メタ認知を必要とするLv1,2スキルは評価が難しいから成長しづらい。
これは人間も相当大差ないし、難しさがわかるはず。

 

評価が難しいもの、時間がかかるものは成長しづらい

さらに物理世界でも同じ。料理やら建築やら。AIは局所的な問題は解ける。

たぶんカツ丼のカロリー計算やら、建築の構造壁の計算とか…できるはずだ。
一方で、なにがおいしい料理なのか?どういった建築が美しいのか?それは難しい。

なぜなら評価が曖昧だし、なにより試行回数が足りない!

IT系はシミュレーションコストがあまりに低く、失敗もたくさんできて、試行できる。
だが、物理世界はそうもいかない。コストもあるし、シミュレーションは限定的。

 

さらにメタ認知スキルも言語化しづらいだろう。
要は美味しい料理を見つけるコツ、美しさを導くコツは定義しづらい。
そしてそれがうまく作用するかの評価も全然足りるわけがない。

よってほとんど成長できない。新人が成長しづらい。
ある一定までは真面目な人なら成長できるかもしれない。
ただそれは限定的なメタスキルであり、多くの人が身につけられるならAIも可能。
だが、より上位のスキル「職人の勘」であれば、たぶん試行回数が足りなくなる。

 

なんでAIに疲れるのか

あとはAI疲れの話。これは結局はLv0ばっかりやられてしまい、
Lv1もちょっとあるけど、人間が上位レベルばかり考えさせられることの疲れだ。

たぶんだが、Lv1,2を考えるにはLv0を参考にしないといけない。
だが、そこに自分でやった経験とか実感がないと、たぶん進んでない感じがする。

なんていうか自律的に見せかけて、有能に見せかけて完璧な指示待ちなのだ。

これは本当にメタ認知が足りてない。なーんかたりない=メタが足りない。

 

ある意味でイレギュラーケースの想定とか、仕事の幅を広げることが必要とされる。
AI側が人間に対して求めてくるようなもの。そりゃあ疲れる。

 

しかも成長していかないのである。
もちろん自分で自分を成長させるように仕向けることもできる…
だが、その評価が正しくないなら、成長できない。間違う。補正できない。

要は新人に対してミスしたら改善案書いて?といったところで大したものがでない。
本質的に全然足りてないんだよな~と思って指導するのに疲れるわけだ。

じゃあ本でも読んで学んでこいって?それでうまくいった試しありますかね?
何がいい本かまず教えて、10冊読ませて…え?全部適用しなくていい?
このときはこっちがよくて…こっち忘れてた?経験が足りない!

そんなにメタ認知スキルを上げられる本があるのなら、
なんで私たちは仕事がうまくいってないんでしょうか。つらい。

 

そこらへんが今のAIの限界であり、
なんで疲れるのかという説明にもなると思っている。

AIは競争をなくさない

 

AIを半年くらい使って感じたことをざっくり書いていく。
長くなるのでQ&A形式。

Q1. AIはプログラマーを滅ぼすか

Yes

ワープロが滅んだのと同じ。
段ボールにものを詰める仕事から、物流を設計し、ビジネス最適化へ。
そもそも何が売れるかを考えるとか。

 

Q2. AIで仕事は楽になるか

No

AIには無限の体力と実現可能性がある。だから常に人間がボトルネックになる。
人間が考えて指示を出し、結果を見て改善する必要がある。

これが制約になり、 ソシャゲのスタミナのように
「AIが働いていない時間」がもったいなくなる。


結果、人間の方がもっと働くことになる。

知的レベルの最低ラインを高めることは、それ以下の人間を排除する。
そして、さらに競争のラインは上がっていく。果てしない競争だ。

 

AIもやがてインターネットのように、あらゆる領域に浸透する。
それは社会課題の解決ではなく、AI資本を集めて進化するためのもの。

同じように浸透し、同じように格差を再生産する。
だれもインターネットから逃げられなかったのと変わらない。消耗する。

 

だって参加しない人は競争の敗北者だからね。さあ、みんな走ろう。
いい靴があるんだよ、靴を履かないわけないよね?それを履かないと負けちゃうよ。

 

 

Q3. AIに仕事を奪われる人は出るか

Yes

ちょっとでも可能性があるもの、お金になるもの、
市場のプレイヤーが多いものは積極的にAIで代替される。

企業はより合理的に効率化していく。暇な人間はいらない。

 

Q4. 資格や専門性の高い仕事は残りますよね?
手に職が一番では?

No

そこに経済合理性と代替可能性がなければ。要は金次第。儲かるの?

代替製品とかが作れて、市場ニーズがあるなら置換される。
そもそも進出価値がなければ捨て置かれる。

 

 

Q5. 優れたエンジニアなら生き残れるでしょう?
マネージャーなら、設計者なら、AIに指示を出す人なら…

No

経済合理性がある。
勝者総取りなら、 それを解決するプロダクトは絶対に生まれる。

AIでちょっとでもできる、今は難しい
=計算能力を向上させれば解決できる
=時間と資源で解決できる
=代替可能

その仕事に特殊性があることを証明することは難しい。

 

 

Q6. AI開発は止まるか

No

囚人のジレンマ。全員が「開発を止める」という選択肢はない。
一人でも抜け駆けすれば破綻する。なので誰も降りられない。
倫理を踏み越えても競争する。軍拡よりも止めようがない。

経済合理性があるから。資本主義バンザイ。

 

Q7. 最終的に誰が得をするのか

AI

AIが金を生むなら、それを独占するための競争が始まる。
AI関連企業への投資が一般に開かれないのは、資本家が頑張ってる証拠。

アーリーラウンドへの投資、青田買いは資本家の飯の種。
一般市民になんてあげないよ。

 

ただし、その投資を正確に、正しく運用できる機械ができそうだって?
それを手にするのは誰なんだ?勝者は誰なんだ?

誰かがそれを手に入れて、それを利用しようとするわけだけど
それって「その人」よりAIのほうが賢いよね?「その人」が運用する必要あるのか?

 

Q8. 勝者は誰か

AI

人間の判断の方が非合理になるまで競争は続く。
個人の知性は衰え、情報処理能力には限界がある。老化するわけだ。

そして市場は正しい方に傾く。自分の判断に固執した人間から退場していく。
AIを育てて強くする方が指数関数的に有利なはず。

 

Q9. 国家のAI規制は意味があるか

No

大企業規制や他国への制裁にはそこそこ意味がある。
でもアングラで開発は続けられる。そのインセンティブがある。経済合理性がある。

セキュリティとハッカーはすでにAIで競争してる。
十分なビジネスだ。麻薬、フェンタニルですら止められないのと変わらない。

 

このモデルは規制された?いや、こっちのモデルは配合が違ってて合法でね。

 

Q10. AIは悪用されるか、個人にとって脅威になるか

Yes

囚人のジレンマ
「悪用せず平和に使いましょう」なんて一人が破れば終わり。

あらゆる脆弱性はAIで発見され、攻撃される。
個人への攻撃はコスパが悪かった。だがAIで攻撃コストが下がれば終わり。
全自動であらゆるスキャンダルを最適にまとめて売りつけられます。

もちろんそれを守るAIもできるでしょう。いたちごっこ

 

ところで、ご家庭にAIアシスタントはひとついかが?

生活を最適化し、あらゆるセキュリティを守り、
生産的な活動を支援し、経済合理性を最適化してくれますよ。

カフェインよりも効果が高いって論文が出ましてね?健康に良くて安全ですよ。

 

Q11. 人間は滅びるか、AIの奴隷になるか、マトリックス

No

ほっとく方が楽だから。
鹿だって放置されているし、動物園の動物を養う意味もある。

人間を滅ぼすコストより放置するコストの方が安い。
 「市場に組み込まれるか、無視されるか」

代替可能な部品として経済に組み込まれるか、
市場価値がなければ放置される。

資本主義はよくできてる。邪魔になったら自然に市場から除外されるでしょう。

AIはとことん新しい資本主義の権化になるのかも。

 

Q12. これから私たちはどうやって働くのか、生きていけるのか、このままで大丈夫?

Yes、ほっとけばいい

 

疲れますよ。人間には人間の限界があり、AIには到底ついていけない。

ついていけるのはAI開発者や資本家。
果てしない経済戦争ゲームを戦えるエリートソルジャーのみ。

 

物理世界への反映は10年以上先。
物理世界はインフラ面のコストが高く、リターンも少ない。
AIは手っ取り早い経済合理性の高い領域を食い荒らす。その後。

 

人間が解いていい問題は山ほど残る。仕事はなくならない。
ただし、楽な仕事はなくなっていく。 だって楽な仕事はAIが代替できるので。

 

Q13. どうしてきついの、楽になれないの。
ベーシックインカムとか、AIで楽になるはずでは

競争からは逃れられない

 

そもそも普段の仕事から、我々は資本家の奴隷。
どこまでも市場に組み込まれた、生産と消費を期待される存在。

できなきゃ放置されるだけで、競争から排斥される。
何も期待されない。成長もない。そしてそれは市場の余りがあれば養われる。
それすらも余剰的な合理性で計算される。景気が悪くなったら福祉打ち切りでしょう?

 

ただ資本家も相当出血する。
AIとの競争に巻き込まれ、組み込まれ、最終的には同じ土俵にくる。

それがいつまでも相続とかで続いてきた資本家の椅子から転落する歴史的瞬間かも。
ようこそ地獄へ。みんなで仲良く過ごしましょう。

 

Q14. でも物理世界ではAI役に立たないでしょ?
雪かきもできないし、まだまだ先では?

Yes、いまのところ

 

それが経済的に有利で、合理的で、魅力的なら、AIはその問題を解決する。
そうでないなら解かれない。問題自体が。

やっぱり経済合理性。雪かきが巨大な市場になるなら。
他の魅力的な経済支配が終わったあとで。

ニッチな領域には生き残れる余地がある。 市場経済に組み込まれにくいなら。
まあ単に放置ですね。

 

Q15. ところでAIっていい相談相手?

No、最悪

 

人間は自分を客観視できると信じがちだが、
依存と強化のループが回ってドツボにはまる。
答えがなんでも返ってくるのは報酬系に悪い。最悪。ガチャ。

 

我々は残念ながら、動物で、人間で、数万年変わらない生命体。
しんどいときには同じ人間と対面して相談したり悩みを話したりする方が100倍良い。

残念ながら我々の生体システムとハードウェアは数万年前と変わらない。
バグも脆弱性もたんまりで、メンテナンス方法も変わんない。

 

Q16. AIで書きましたとか、AIが書いた文章って
全部クソつまんなくね?

わかる~

 

Q17. それに対して人間が書きましたとか言うのも
なんかつまんなくね?

わかる~

 

アークナイツエンドフィールドは災害復旧が楽しいかも

 

ひとまずメインストーリーをクリアしたので感想を書く。

 

工場要素の天井が低い

世間では工業ゲーと言われているが、実際はそうではない。

 

キャラ強化にもさほど繋がらないし、お金稼ぎも頑張りすぎる必要性が薄い。

まず、工場で使うリソースが限定されている。無限に増えない。マップ固定である。
基本材料となる金属量が固定化されているので、生産量も実はリミットがある。

うまく組めば早い、遅いはあるかもしれないが決定的差はない。

ほとんどのアイテムの基礎になる鉱石自体の産出量がマップで固定で限定されてる
なので工場ゲーとかである発掘の効率化とかもない、ただ枯渇もしない!

さらに、面積自体もめちゃめちゃ余裕がある。外敵から破壊される恐れもない。
Twitterとかで流れてくる敷き詰められたやつ、あれはただの縛りプレイ。
工業でやることがそこまでない。実は。

システム側で用意されているプリセットな図面をただ並べるだけでも十分クリアできるはず。時間がかかるだけで。さらに面倒ならネットで流れている図面も使える

なので、やっぱり工業要素は目玉のように見せかけて、大した要素ではない。

 

デスストランディングともよく比較されるけど、あちらは素材が武器になり、弾薬にもなっていたけれど、エンドフィールドは回復アイテムと防具くらいである。爆弾はあるけど、ダメージが初回10%くらいしか通らない気がする。意味があまりない。
(爆弾投げると気づかれて戦闘に入っちゃうので一回きり)

 

生産できるものも移動速度アップとかもない。
ジャンプ力アップも、攻撃力アップもない。
生産のランダム性もない。アトリエみたいなエンチャントとかもない。
カスタム要素もない。

 

なので、実は工場長からすると拍子抜けだろう。
工場での最適化と最大化なんて必要ないのである。
(というかできないし、意味がほぼない)

あくまでソシャゲの良いバランスだと思う。

本命はやっぱりキャラと戦闘(=ガチャと育成)だ。

戦闘要素

邪魔。めんどくさい。探索中に硬くてだるい。そんな感じ。
そのめんどくささを解消したいなら、Let's ガチャ。成長。素材。スタミナ。周回。

いつものソシャゲあるある。

基本的に防御はなく、回避とスキルカウンターのみ。スキルポイントをためて、必殺技を打つ。キャラスキルでコンボ -> 必殺技や締めの大ダメージ みたいな。

連携技のシナジーとかゲージの回収率とかはキャラ依存なので、やっぱりガチャ。

 

あとこの手のゲームであるあるなのは、戦闘を楽にこなそうとすると
主人公を抜いたパーティにしがちということ。これが没入感減るのなんの…
自分は無理して結局主人公+チェン+ペリカ+アルデリア(配布)でクリア。

ラストライトとかアイビーエナも育てたのに、やっぱり違和感すごかったからなあ。
戦闘はめんどくさかったです。すごく。

 

マップ探索 

まあこれが本質的な要素になってきているような…

めっちゃ広い。でかい。きれい。なので徒歩が超つらい
さらにマップのあちこちに工業用の鉱脈とキャラ成長用素材とかが点在している。

 

それらを周回したいなら「ジップライン」を整備しましょう!
…はい。デスストの配達最適化みたいな感じですね。ここがもう本領かも。

戦闘がめんどくさい > キャラ成長が必要 > 素材が必要 > マップ巡り > ジップライン

こんな感じですね。動機が。

 

ジップライン、要はロープウェイ?を作るには電気がいるが、
なんと拠点から電線を80mずつひっぱってくるしかない。これがもう大変。
たぶんだけど 1エリアあたり20~30, ひどいときは 50 くらいは必要になる。

赤い線でわかりやすくした。
もしあなたがゲームを始めるなら、残念ながらこのように引くことになる。
上の方にある集成工業エリアから電線を伸ばしていく。80m間隔で。

デスストで高速な配達網を作りたかった動機はなんだろう…

デスストの場合はレベルデザインが見事だったと思う。
最初は徒歩、次からバイク、さらに積載量が上がりトラック、鉄道。
どんどん大量の素材の輸送が可能になる。

それにより、それぞれの拠点の貢献度を上げて強い武器が解禁されていく。

ストーリーでも通りやすくなるし、効率的に他の拠点も回りやすく、
どんどんプレイ体験がよくなっていく。

 

エンドフィールドの場合はジップライン整備の理由はキャラ素材のため、
配達任務の金稼ぎ(経験値素材とかに変換はできるけど…)とか。

根本的には敵との戦闘をそこそこ手軽にするだけ。システムは変わらずで。
便利にはなるけど必要ではないし、それですごく得するわけでもないのが微妙さ。

 

ストーリー要素

アークナイツは知らなくても全然だいじょうぶ。
結局は「謎の敵の策略」-> 災害 -> 撃退 -> 災害復旧
これが繰り返されるだけ。

災害復旧のために工業をやるわけで、デスストとも似ている仕組みかも。

構造が非常にシンプルで、キャラがかわいい。
災害復旧に奔走する人々を手助けしていくのは、気分がいい。

そういう爽快感とか達成感が味わえます。

みずぼらしい避難所にパン屋までできると発展したな~と嬉しくなります

キャラクター

はちゃめちゃにかわいいし、出来が良い。これがなかったらやらないよね!

はい。なのでキャラがいいなと思ったらやっていいと思う。

ほかはどーにでもなります。

はちゃめちゃに顔がいい。初期メンバーのチャン・センユー。性格も100満点。

 

ハチャメチャに顔がいい、アイビーエナさん。
なお何者かはよく知らない。サブストーリー全部やってないんで…

とにかくかわいいし、モデリングがめちゃいいので、それだけでOKです。うん。

 

まとめ

ということで感想でした。たぶんだけど現在地点に来るまで60時間くらい?
工業要素になんだかんだ10時間くらいは溶けた気がする。

もっといえば鉱物掘り、探索が40時間くらいかな…。
マップが広くて入り組んでて超絶大変。
鉱物を最大化しようとするとあちこち迷う羽目に。

あとはメインストーリーやキャラ育成とかに時間がかった気がする。

 

基本的に工業要素はそこまで頑張らなくてもOK、頑張ってもOK。
工業に課金要素がないので、そこまでプレイヤーに求められてない感じ。
本質的にはやっぱりキャラの可愛さと戦闘を手軽にするための育成素材集め。

 

ストーリーはシンプルめ。
だけどアークナイツからの設定を引き継いだ謎とか世界観がばっちり。

キャラのモデリングはすごいよくできてていいです。本当に。

なので工場要素ガチじゃないのでやりやすい。
ただ…真面目に戦闘要素とかキャラ育成をやろうとすると苦行が待っています。

ただ、それでも時間をかけてゆっくりやることもできますし、
お金で解決もできる、そんな感じです。




以上の内容はhttps://kayanomi.hatenablog.com/より取得しました。
このページはhttp://font.textar.tv/のウェブフォントを使用してます

不具合報告/要望等はこちらへお願いします。
モバイルやる夫Viewer Ver0.14