« 一部の方々へご連絡 | トップページ | 認知症関係のヒーリング動画 »

2023年6月20日 (火)

対話型AIの罠?

以下に書いたことは全て個人の意見と妄想です。引用文の太字は私がやりました。内容を予約している箇所があります。


最近急に登場して示し合わせたように普及を目指して大企業や省庁や市役所などで急速に導入されている対話型AI(ChatGPT等)だが、AIの回答が不正確なケースが目立ったり、中にはとんでもない捏造さえあるという。話のつじつま合わせだけが高度に発達したAI。まるで詐欺師。
そんなアテにならないものに依存した社会は混乱不可避なのは誰でも分かるだろうに、なぜ普及させようとするのか? 

【2023年最新】ChatGPTを導入した日本の企業・組織事例まとめ
省庁や大企業も多く導入している。いい加減な対話型AIに仕事を依存するなんて心配だ・・・

メルセデス車にチャットGPT搭載、米国で試験運用
タロット風に表現すると「戦車の逆位置」な結果にならないことを祈る。

「平気で嘘をつく」AIの誤情報を排除するには...知らないと痛い目に遭う"ChatGPTの弱み"

【酒井】AIが生成した文章が正しいかどうかは、人間が自分で信頼できる情報源にあたるなどして確認するしかないんでしょうか?

【古川】そうなりますね。たとえばChatGPTが出してきた回答に対して、「これは本当に正しいですか? 根拠を説明してください」のように質問する方法もありますが、それに対する回答がさらに間違っている可能性もあるので、人によるファクトチェックが基本です。

【酒井】Web検索ですぐに確認できればいいですが、専門性の高い内容などの場合、人間がチェックしきれずにAIが生成した間違った情報がそのまま使われてしまうケースもありそうです。
(中略)
【古川】一方で文章生成AIの場合、回答の根拠がブラックボックスになってしまうために、使用するユーザーは誤りに気づきにくいと考えられます。

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明

航空会社を訴えている顧客の弁護士が裁判所に提出した書面に、存在しない架空の事件がでっち上げられて記載されていたことが分かりました。弁護士は文書作成のためにChatGPTの助けを借りたことを認め、「内容が虚偽である可能性には気づかなかった」と説明しました。

生成AI、チャットGPTに米政財界で懐疑論 〝投資の神様〟が「原爆に匹敵」、グーグル元CEO「ガードレールが早急に必要」

「投資の神様」として知られる米大手投資会社「バークシャー・ハサウェイ」のウォーレン・バフェット会長兼CEOは、同社の年次総会で次のように言い放った。
「(生成AIやチャットGPTなどの)AIは原爆に匹敵するのではないか」

AIへの懐疑を公にしたのだが、メディアはこの発言を無視して、「バフェット氏は、シリコンバレー銀行(SVB)の預金者保護は不可避的だったのであり、もしそうしていなければ事態はもっと深刻となっただろう」と発言した部分だけを強調した。
米IT大手「グーグル」で最高経営責任者(CEO)を務めたエリック・シュミット氏が、これまでの立場を変えて「AIにはガードレールが早急に必要である。1年前には考えもしなかったことが起こっている」と言い出した。つまり、次の経済を牽引(けんいん)すると期待されたAIやチャットGPTなどの新技術に投資筋は懐疑的なのである。

シュミット氏は、元米国務長官のヘンリー・キッシンジャー氏らと共同で、「AI開発と国家安全保障」を追求し、ガイドラインを制定する委員会を継続してきただけに、姿勢の変化には注目が必要だ。

ネットの対話型AIの情報源はしょせん、冗談や妄想や噂やフェイクニュース等、いい加減な情報が氾濫するネットである。
ヒトと違って理性的な感覚のないAIにしてみれば、ここみたいなオカルト妄想系ブログさえ回答を作るための情報源になりうる。人間なら「さすがにそれはウソだろうw」と感覚的に判断できるものも、AIにはできない。「嘘を嘘と見抜けない」わけだ。
なので、仕事でそんなAIに依存し、AIが作成した文章や回答の根拠や情報源を調べていちいち検証やファクトチェックが必要ならば、二度手間だ。AI使わずに最初から自分でやった方が早い。

そんなあやふやな対話型AIをもてはやし依存したがる先進国。マイクロソフト創業者のビル・ゲイツに至っては「18カ月以内にチャットAIが子どもたちに読み書きを教育するようになる。いずれは他の科目も教えられる良い家庭教師になる」と提唱(報道)。自社のパソコンもChatGPT対応の仕様にするという。
そんなゲイツだが、先日中国へ訪問したら珍しく習近平が自ら出迎え、ゲイツは習近平から「今年北京で米国人の友人に会うのはあなたが初めてだ」とのコメントをもらっている(報道)。何やらかなり歓迎されている模様。


今のところ、いい加減な情報が氾濫する「ネット」を情報源とする対話型AI依存を急激に推進したことで混乱や不利益が出ているのは欧米など先進国だけのようだ。中国が政治的な理由でChatGPTを禁じている意味を、考えてみた方がいい。
これと似た感じ、前にもあったような気がする。そう、脱炭素を口実に災害やエネルギー防衛に対して国を脆弱化させる電気一元依存政策を欧米先進国にだけゴリ押しする流れや、健康面で不安要素が残るコオロギ食を先進国で推進するのと似ているような気がするのだ。もしかすると社会を混乱させる歪んだLGBT政策の推進とも似てるかもしれない。これも先進国だけ。(陰謀脳)。
そんな感じで、先進国に危険な形でのAI依存を推進することもまた、「先進国の経済覇権(ドル覇権)を縮小させてグローバルサウス(投資先)を台頭させたい一部経済界の思惑」ゆえの現象なのだろうか(妄想)。米財界もまた、中国はもとよりグローバルサウス各国への投資をしている例は多い。習近平がゲイツを歓迎したのはそんな背景もあるのだろうかと妄想した。
マイクロソフトもまた、ゲイツの現役時代から中国市場へ大きな投資をしているのだ。

マイクロソフトをはじめとする多国籍企業は、必ずしも「欧米の経済だけが一番強くないと困る」わけじゃない。先進国の作るドル覇権が縮小し、人口と地下資源が多い中国及びグローバルサウスが台頭すれば、ゲイツ及びMSもそれを商機に出来るだろう。
資本の論理からすると、経済成長が頭打ちになった現先進国(ドル覇権)がいつまでも幅を利かせていて他の地域の経済成長を邪魔するのは面白くないし無駄に見えるのだろうが、グローバルサウスには人権を軽視しがちな国や乱暴な独裁政権が支配する国も多いので、そういう国の政府・政権が投資のお陰で一層元気になってしまうと、今までは無かった色んな問題が国内外に出てくると思う。中国がまさにそれ。個人的にはそれが引っかかる。外部からの投資と経済成長で民衆の暮らしが向上・安定するだけならいいけれど、そうは問屋が卸さない;
資本の論理からすると、利益さえ出ればその国の内情や国民の苦しみやその後の事なんか知った事ではなさそうだが・・・本当に目先のニンジンしか見てないのか?

とまれ、「頭打ちの先進国(ドル覇権)からグローバルサウス(非ドル覇権)へ」という流れは今後も加速する気がする。
だって、バイデン大統領ボケちゃったし。

 

余談:AI研究、中国突出 論文の質・量で米国引き離すからの妄想
いい加減な対話型AIはゴリ押し効果もあって先進国で多くの人や組織が利用している(とくに無料版)。この流れ、恐らく多くの人達が様々な用途で対話型AIを利用することでそのデータをAIのディープラーニングに活用すること、即ち高度なAI開発が目的ではないかと妄想中。
もしそうなら、いつどこでどの言語でどんな人や組織がどのようにChatGPTを使用したか、全ての利用データが記憶されている(=筒抜け)ということでもあり、蓄積された利用データの分析次第では各国の大企業や官公庁、個人、学術界などの営みや傾向、ニーズ、内部事情まで分かってしまいかねない。
これは情報防衛や防諜の観点からもあまりよろしくないのではないかと思う。どーりで中国が国内使用を禁ずるわけだ。

そして、今世界で最もAIの研究開発が進んでいるのはお隣の中国である。かの国はChatGPT使用禁止なので上記のようなリスクは回避されている。ただ、ネットで自由に使える対話型AIを世界に公開して蓄積された使用データがその後どこでどのように利用されるのか、色々妄想が捗ってしまう要素がそろいすぎているw
そんな中国を訪問して国家主席から直々に歓迎を受けたMS創業者ビルゲイツは、対話型AIの普及に熱心で、MS製パソコンがChatGPT対応に仕様変更されると発表した。これはMSが世界シェア一位のパソコンを使ってChatGPTの利用を促進しているという事でもある。
これは、データ収集(ディープラーニングや諜報に転用可能)という分野で「ゲイツが(MSが)中国(のAI開発?)に協力的」という可能性もありうるってことなのかどうか・・・習近平がゲイツを「米国の友人」と表現した意味やいかに??

「中国が手に入れようとしたのは、ライバル先進国の混乱と引き換えの最先端AI開発」・・・まるでAIが考えた社会派小説風の煽り文句みたいだ(寝ろ)。

 

2023.7.1追記:
chatGPTが「個人情報を許可なく収集」、米利用者らがオープンAIを提訴
言わんこっちゃない; 
中国がchatGPTを禁止したのは、それを知ってたからだろう。自社製品をChatGPT対応にしたMSも個人情報収集に協力的だったということだ。

« 一部の方々へご連絡 | トップページ | 認知症関係のヒーリング動画 »

ニュース」カテゴリの記事

パソコン・インターネット」カテゴリの記事

経済・政治・国際」カテゴリの記事

社会」カテゴリの記事

コメント

コメントを書く

コメントは記事投稿者が公開するまで表示されません。

(ウェブ上には掲載しません)

« 一部の方々へご連絡 | トップページ | 認知症関係のヒーリング動画 »

2024年6月
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30            
フォト
無料ブログはココログ