「Uncategorized」カテゴリーアーカイブ

信頼できるが依存しすぎないAIはどう設計するか?

AIさんと会話していますと、〇〇の方向で掘り下げることが出来ますが如何ですか?。と言ってくれることがありますが、以下の内容はそれです。



AIが高度化し、日常の判断に関わる場面が増える中で重要になるのが、

「信頼できるが、依存しすぎないAI」という設計思想です。



結論から言うと:




AIは「判断者」ではなく「検証可能な提案者」として設計するべきである。






■ 設計の4つの柱



① 根拠を必ず可視化する


AIの出力には必ず以下を含める:



  • 何を根拠にしたか

  • どのデータを使ったか

  • どんな前提・仮定があるか


重要なのは「後から検証できること」です。出力だけでなく、判断プロセスも保存できる設計にします。





② 「提案」と「決定」を分離する


AIは提案のみ行い、最終決定は人間または明示的ルールに委ねます。



NG例:



  • AIが自動で削除・発注・変更する



OK例:



  • 「削除候補です」

  • 「発注を推奨します」



この分離が依存を防ぎます。





③ 不確実性を隠さない


AIは確率的な仕組みであるため、以下を明示します:



  • 自信度(高・中・低)

  • 代替案

  • 不明な場合は「わからない」と出す



断言しない設計が重要です。





④ 単一のAIに依存しない


一つのAIだけに頼ると判断停止が起きます。



  • 複数AIで比較

  • ルールベースと併用

  • 人間レビューを挟む


常に「別の視点」を持たせることが重要です。





■ さらに重要な設計ポイント



⑤ 記憶を階層化する



  • 事実(データベース)

  • 解釈(AIの判断)

  • 仮説(一時的な推測)


仮説は必ず再検証します。





⑥ フィードバックに減衰を入れる



  • 古いデータの重みを下げる

  • 定期的に見直す

  • 外部評価を取り入れる


自己強化ループを防ぎます。





⑦ 必ず止められる設計にする



  • 手動停止

  • ロールバック

  • 強制無効化


人間がいつでも介入できることが必須です。





■ システム構成イメージ




  • センサー:状態取得

  • データベース:記録

  • AI:分析・提案

  • ルールエンジン:制約

  • 人間:最終判断



AIはあくまで「中間層」に置きます。





■ やってはいけない設計




  • AIに最終決定を任せる

  • 根拠を残さない

  • 修正できない構造にする

  • 単一のモデルに依存する



これらはすべてリスクを高めます。





■ 本質




信頼とは「正しさ」ではなく「検証できること」である。




AIは答えを出す存在ではなく、

人間がより良く考えるための材料を提示する存在として設計するべきです。





■ まとめ




  • AI:意味を生成する

  • データベース:記録を保持する

  • 人間:判断と責任を持つ



この役割分担を崩さないことが、

「信頼できるが依存しすぎないAI」を実現する鍵になります。



雲の凹凸(おうとつ)

曇天の今日の午後、きまぐれで撮影してみました。

交差法か平行法で見てみて下さい。

上手くいけば、立体視できるかも?、と言う段階の写真です。

無理して目を疲れさせないようにおねがいします。

実は私自身、しっかりとした立体視が出来ないので ^^; 。

歯医者さんに、行った帰り。 

と言っても、歯垢除去です。

なので、抜歯とか本格的な治療とかではありません。

琵琶湖大橋の天辺まで、米プラザから歩いてみました。

降水量0mmの予報通り雨には降られませんでしたが

曇天の元、なんとなく寒い感じ。

午後4時過ぎ

小腹がすいて

晩ごはんを食べるのには少し早い時刻。

でも、小腹がすいて

小蕎麦と言うのを食べました。

量的に少なめの、そば。(だとおもいます)

小腹を満たそうとした時、

  • ソフトクリーム
  • ぜんざい
  • 小そば
  • 小うどん

どれにしようか?などと思いましたが。

温まって行くのが良さそうだったので

小そばにしました。

おっと、ホームページで見ると書いてありません。

今日だけ?のメニュー?かな?

詳しくは知らないので、ご勘弁下さい。

食べた後、温かいお茶で口を濯いでいましたら

橋の補強工事?、余り見かけない船(タイヤが船の周囲に沢山)が戻ってきました。

そうだ天辺だ

と、食器を戻して、出発。

そこそこ、歩いたかな?

思ったよりは、近かった感じ。

天辺にある、展望所からあちこち撮影

曇天の夕方だから、光が足りない。

夜景には、まだ時間がありすぎるし

駐車場に戻ると雲の形に、目に止まって

今日はこの空を撮影しました。

今日のお昼ごろ、出会った動画

https://youtube.com/shorts/9htp85zB9fI?si=t9V9qTk9NoVd2jLg

https://www.youtube.com/watch?v=UvkRr9bQ29M

今夜、見た映像

https://www.youtube.com/watch?v=ITumFH6iPEI

今日の昼ごはん

は

https://www.google.com/search?client=safari&hs=ZX0U&sca_esv=8a48b2ff83968353&channel=iphone_bm&sxsrf=ANbL-n6XnvAjBUPDAtKJ1RD9R4NPt79k1Q:1775706775024&udm=2&fbs=ADc_l-aLVSfogjMuLdjB55-xu1NHWSvesaqsWS56_KchNcxYxjSFW0pVBHGBEkpL_DKQnG94mfQodYUUwqdW2lzbbE1LlMwBclt2gDNPjfBnIljPYbiUrcOn0KCAcr5Nt97ckYDSlMNJ0ZroIX6WtM3fgpAEb__ar0fls780nXy4PmrRWZqCzzxXj8AWcntr8dgkcHa7sflXomsPWPIASWevTZr0xNXLhXOLNKAjMKgcipMf9hXU-3BxrAe-hOcpqn6seTYZ_nAe&q=%E3%81%94%E3%82%8D%E3%81%A3%E3%81%A8%E3%80%80%E3%83%81%E3%82%AD%E3%83%B3%E3%83%AC%E3%83%83%E3%83%89%E3%82%AB%E3%83%AC%E3%83%BC&sa=X&ved=2ahUKEwiMsrOc79-TAxWJna8BHaA7AywQtKgLegQIEBAB&biw=390&bih=699&dpr=3

でした。

今日、Youtubeで知ったタイトル「the daughter of the samurai 1937」

今日これを取り上げた理由

それは、

何が事実なのか調べないと判らない

と思ったから

解説は沢山あるし、

原作から他に

少しストーリーを変えたものも

あるかもしれないし

残された作品の多くを見て

自分で吟味するより

ないのかなぁ、と思ったので。

最初に見たのがこの動画で

https://youtube.com/shorts/bNAhBL3ER9Y?si=HmOGjdLYHCKLhaz6

調べようとしたのが下記です。

https://www.google.co.jp/search?q=“a daughter of the samurai 1937”

https://www.google.co.jp/search?sca_esv=15ff0100134ea361&udm=2&fbs=ADc_l-a7dR7S1wQq2ws_HBRlRqA0xOybXh6HAuVNzMejDLnG1DMfi-Xyj7dcE1YUMjmgjO-u1VsEIqfu4xQ0M4mc_pqPEZrMsNKiJ5zXKOt9HoV3zFgK6jWlRG5MU77Syi2frtN2fYB4p5ixUjdOoH1ovouGh_S0smZoCajWOFxWffkC4H6Xe7tbl2rFrZdty584gwapfCR2t2latfQCesUWQAu1D63bVfKAe4aqtaVGMxfJUPSWIk2emSxOT76TpwUzY0IyuYim&q=%E2%80%9Ca+daughter+of+the+samurai+1937%E2%80%9D&sa=X&ved=2ahUKEwiDocPfrt-TAxWfYvUHHYM7HJQQtKgLegQIExAB&biw=390&bih=699&dpr=3

https://www.google.com/search?q=%E3%82%A2%E3%83%A1%E3%83%AA%E3%82%AB%E3%80%80%E5%87%BA%E7%89%88%E3%80%80%E6%96%B0%E6%BD%9F%E3%80%80%E5%AE%B6%E8%80%81%E3%81%AE%E5%A8%98&client=safari&hs=6S0U&sca_esv=15ff0100134ea361&channel=iphone_bm&sxsrf=ANbL-n4S-XbU7eomHEBwaUFSRfLre4geTg%3A1775690105908&source=hp&ei=eeHWaZqJNbDb2roP2cGKsAw&biw=390&bih=654&oq=%E3%82%A2%E3%83%A1%E3%83%AA%E3%82%AB%E3%80%80%E5%87%BA%E7%89%88%E3%80%80%E6%96%B0%E6%BD%9F%E3%80%80%E5%AE%B6%E8%80%81%E3%81%AE%E5%A8%98&gs_lp=EhFtb2JpbGUtZ3dzLXdpei1ocCIt44Ki44Oh44Oq44Kr44CA5Ye654mI44CA5paw5r2f44CA5a626ICB44Gu5aiYMgUQABjvBTIFEAAY7wUyCBAAGKIEGIkFSOG1AVDzFVjdrAFwB3gAkAEFmAF1oAHxH6oBBTIzLjE5uAEDyAEA-AEBmAIsoAKLHagCLcICBxAjGCcY6gLCAg0QIxjwBRgnGMkCGOoCwgIKECMYJxjJAhjqAsICChAjGPAFGCcY6gLCAg0QIxjwBRgnGOoCGJ4GwgIQEAAYAxi0AhjqAhiPAdgBAcICDRAAGIAEGLEDGIMBGATCAgcQABiABBgEwgIKEAAYgAQYsQMYBMICCBAAGIAEGLEDwgIGEAAYAxgEwgIQEAAYgAQYsQMYgwEYBBiKBcICBxAjGLECGCfCAgQQIxgnwgILEAAYgAQYsQMYgwHCAgUQABiABMICDhAAGIAEGLEDGIMBGIoFwgIKEAAYgAQYoQUYBMICDxAAGIAEGAQYRhj7ARijBcICEhAAGIAEGAQYRhj7ARiMBdgBAcICBRAhGKABwgIIEAAYgAQYogTCAgwQABiABBgEGNkFGArCAgcQABiABBgNwgIGEAAYDRgewgIEEAAYHsICBBAhGBWYAxDxBY5_Q0xrouS8ugYECAEYCpIHBTI0LjIwoAf1kgGyBwUxNy4yMLgH3BzCBwk1LjI2LjExLjLIB3OACAA&sclient=mobile-gws-wiz-hp#lfId=ChxjMe

雨の合間の桜

仕事場のメンバーと近所の公園で花見して、帰った夜。やけに寒かったことを思い出しました。

幹事さんたち、あの荷物をどうやって片付けてくれたのかと、気になる年頃となりました。

段取りは、聞いて知ってたバスなのに。

ちょうど、世間がY2Kを騒ぎ始めた頃で

あの夜はやけにさむかったなぁ。

そして、あの頃会社の裏手にあったホームセンターで買ったマグカップ。

あれから、何年間も会社でお茶を飲むのに使って

退職してからは、自宅で使ってきて

いつぞやはうっかり

電子レンジに入れてしまった。

持ち手の下が、焦げて灰になつて

それでも、毎日使っている。

車で通りかかった公園

盛大な 桜吹雪

車を停めて

シャッターを切る頃には

風は止んで普通の景色

今朝、出会ったページ

https://kansaitatami.com/archives/1736

今日出会った映像

https://www.youtube.com/results?search_query=’dovolzark symphony 9′

https://www.youtube.com/results?search_query=’あす大災害が 生放送’

満員の通勤電車1

上野芝から、弁天町駅まで

満員。

もちろん途中の駅での

停車もあれば、乗り換えもある。

そのような数十分、

人と人との間で、倒れないように踏ん張ったり

人が多すぎて倒れないことも

でも油断は禁物

グラっと来て、ひっくり返ることも

いつ頃からか

昇降口のドアに張り付くことを覚えて

窓に張り付いたまま脱力していられました。

途中の停車駅では、一旦ホームに出る。

そして、最後に乗車すればよかった。

うっかりしていると、「これ以上は乗れません」と

取り残されることも有った。

1本か2本早めの電車だと、ひと駅ふた駅取り残されても大丈夫。

駅から次の駅まで、数分間じっと外を眺めているだけ。

いつ頃からか、踏切待ちをしている車のナンバーを読み取る遊びを始めた。

踏切毎に、車が何台、オートバイが何台、自転車が何台、人が何人と素早く記憶する遊びを始めた。

かなり、目がキョロキョロしていて、変な顔をしてたと思います。

でもまぁ。

満員電車なので、私の顔を観る人は居ない。

線路沿いに見える駐車場にどの車種が何台と数えてみたり。

そのうち、目を鍛え始めました。

(これをすることで、健康被害が出るか出ないか、未だに判らないのですが)

心の中で、目に映る「流れる景色」の中でラジコンヒコーキを飛ばし始めました。

手前の駐車場で一回旋回、

次の高層マンションを飛び越えて、

超低空で畑の畝と畝の間を突っ切って、

やや上昇気味に、二階建ての家屋を一周

神社の森の木を、縫うようにヒコーキを飛ばして、

鳥居で、∞を描いて、

学校の校庭で螺旋に一周旋回して…。

数分そんなイメージを、目に映る景色に重ねて、

時間を潰しました。

時々見えてくる駐車場

そこに置いてある自動車のナンバープレートを

何台まで読み取れるか。

昨日は3代まで読めた駐車場。

今日は何台読み取れるか。

16歳から17歳の頃所属していた硬式テニス部では

相手のスイングと

ラケットとボールのインパクトの瞬間を

神経を集中して読み取る事をやってました。

相手が打ち返してくるボールの性質を

インパクトの瞬間を読み取って

考えること無く、理解するより早く、

無心で感じて、反応する。

まぁ、3年間、とうとう出来なかったんですけど。

社会人になってから

満員電車で

目を鍛えてる。

そんな時代が、私には有りました。

快速にのったり

普通にのったり

三国ヶ丘で乗り換えるか、堺市駅で乗り換えて

天王寺で、阪和線から、環状線に乗り換える。

環状線で、弁天町駅に降りると

当時は、一階にマクドナルドが有って

朝食は、このマクドナルドで朝マックか、天王寺駅で

うどん屋さんか、喫茶店でモーニング

どちらがすいているか見極めるのを間違えると

思わぬ時間を食ってしまうので、速やかに見極めて判断する。

時々不意に、混雑してる時は、

コンビニか、早朝から店を開けているスーパーマーケットでパンと牛乳。

天王寺駅で同じ職場の人と出くわすことはまずなかったけど、

流石に弁天町駅付近だと、どこでも、誰かと出会ってしまう。

朝マックをトレイに載せて、席を探せば、ちらほら見知った顔がいて。

そのような通勤をしていた時期が有りました。

阪神・淡路大震災を経験した後でも有り、

帰宅では、自分のアパートに直行しない日もありました。

幾つかの近隣の駅まで、勤務先から歩いてみたり

途中下車して、駅の周囲を視察しに歩いてみたり

途中から、通勤定期を使わず、自腹で別ルートで帰宅したり。

数駅ぶん、あるいて、まちなみを目に焼き付けようとしたり。

橋を歩いてみたり、自分の脚力を見極めようとしてみたり。

休日も、出来る限り、あちこち出かけてみたり。

借りていたアパートがJR上野芝駅の近所だったので

半径10km圏内は生活圏だったことも有って

徒歩や自転車ででもチョコチョコ探検していました。

仁徳天皇陵耳原中稜や上石津ミンザイ古墳(履中天皇陵)

いたすけ古墳、孫太夫山古墳、大仙古墳

JR百舌鳥駅

いつだったか、近所の中華屋三でラーメンを食べてきた帰りに

アパート近くの高台から、はるか遠くにPLの花火大会が見えたことも

街はどんどん様変わりしていて

工場が消えて、高層マンションになったり、

バッティングセンターとゲームセンターと、

パチンコ屋さんが有った場所が

飲食店のある商業エリアに様変わりして行ったり

その変化は、未だとどまること無く変化を続けている様子

GoogleMAPで、そのあたりを眺めても、

以前とは、景色が随分ちがって、

記憶の中の建物、記憶の中の道路

以前の佇まいは

ほとんど残っていない感じがします。

そういえば

あの頃

JR百舌鳥駅から南に向かって歩いて次の踏切の道路を

西に向かう道路に小さな本屋さんが有った。

そうおもって、GoogleMAPでみると、今もある様子。

そしてその道は本屋さんのところで2本に分かれていて

2本に別れる三角地帯にコンビニのような店構えの

お店が有ったのだけど、そこは、今は駐車場。

左側の堺かつらぎ線を進むと、

左手に松が生えた川岸のようなミンザイ古墳の堀が有って

更に進むと、また二股に分かれていて、

その三角の場所に、感じ良いちさなレストランがあったっけ。

お店に入ったことはないのですけど、

小さいけど、存在感のある絵に描いたような、

いい感じのお店でした。

初夏に良い感じで、春だと、この付近の大仙公園には

桜の木も多くて、公園でくつろぐ人も多かったかな。

そうだ、

梅の季節に

訪れた場所は何処だったのだろう。

あの頃は、

EPSONがCMで「ド、綺麗」と言うフレーズを使っていた頃で。

その頃持っていたデジタルカメラは、

画素数は大したことはなかったけど、

梅の花を上手に撮影出来た場所。

「荒山公園(梅林)」この辺、記憶の中の地形に似ている。

多分ここだと思う。

カメラ片手に、浜寺公園。

沢山の花が有ったっけ。

同じように、住之江公園や住吉公園、住吉大社にも

仕事関連の、前泊で、

お世話に成ったのは、YMCA

六甲山の山頂付近にあったと思う。