ほぼ毎週ニュースレタTumblr版 @takahashicleaning - Tumblr Blog

Posts

アンナ・ピペラル：エストニアの電子政府とはどのようなものか？

ＴＥＤにて

アンナ・ピペラル：エストニアの電子政府とはどのようなものか？

（詳しくご覧になりたい場合は上記リンクからどうぞ）

注意！！現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。

諸手続きのための紙の書類への記入が不要になったとしたらどうでしょう？

エストニアではそれが現実になっています。eエストニアと呼ばれるソビエト後の野心的なデジタル化への移行のおかげで市民は起業からパソコンでの投票までほとんどすべての公共サービスをネットから利用できます。

このプログラムの専門家であるアンナ・ピペラルが、エストニアの電子政府を支える主要な設計原則について解説し、他の国もこれに倣って旧態依然とした役所仕事を払拭し、市民の信頼を取り戻すべきである理由を示します。

30年ほど前に私の国はすべてを根底から作り直す必要に迫られました。長年のソビエト支配の後、エストニアは独立を回復しましたが、何も残されていなかったのです。インフラも行政府も法律もありません。

逆に、アフリカ諸国や中国同様に何もないから一から構築できました（日本の第二次大戦復興の状況に似ている）

混とん状態でした。必要に迫られた当時の指導者たちは、私達の国にできる限りの大胆な選択をしました。実験的なことや不確かなことがたくさんありましたが幸運な部分もありました。

頼りになる優れたビジョナリーや暗号専門家や技術者がいたことです。私はまだ子供でした。おかげで、今日では私の国は、世界で最も電子化された社会と言われています。

私の国エストニアでは、2001年以来、税の申告はオンラインで行われています。2002年以来、電子IDと電子署名が使われています。2005年以来、投票はオンラインで行われています。今ではおよそ思い付くあらゆる公共サービスが、オンラインで行われています。

教育、警察、裁判、起業、手当の申請、自分の医療記録の参照、駐車違反に対する申し立てまでオンラインで行え、実際オンラインではできないことを数え上げたほうが早いくらいです（高度なセキュリティとプライバシーも？）

出向く必要があるのは、自分の身分証の受け取りと結婚・離婚、不動産を売るとき。それくらいのものです。ですから、毎年確定申告のときを楽しみにしていると言っても驚かないでください。

しなきゃいけないのはソファに座って携帯を取り出し、所得と控除について記入済みのページを何度かスワイプして送信ボタンを押すことだけです。３分後には、還付金額を見ていて何か得した気がします。税理士も領収書集めも計算も必要ありません。役所には７年間訪れていません。

今日の技術の可能性を考えれば、迷路のように込み入った役所の手続きなど現代生活に存在すべきではないでしょう。そのようなものは、エストニアでは電子化された行政府の協調的努力によって完全になくなりました。たとえば、電子内閣の大臣の書類棚は、完全にペーパーレスです。

そのような展開の中心にある考えは、国の役割を変えるということと信用の電子化です（表面だけ導入しても効果はない）

考えてみてください。ほとんどの国で人々は、権力者である行政府を信用していません。行政府も基本的人権のある国民を信用していません。

紙ベースの煩雑な形式的手続きが、その問題を解決するものとされていますが、実際には解決しません！！

生活を面倒にしているだけです。エストニアの経験が示しているのは、テクノロジーは信用を取り戻す手段になり、効率的で利用者中心のサービスを作って市民のニーズに積極的に応えられるようにできるということです。

基本的人権を侵害しなければ・・・

それが実現できたのは、単に、お役所仕事をそのまま電子化することによってではなく・・・

基本的人権を侵害しないように、いくつかの強い一般原則を定め規則や手順を作り直し合意を得て、不要なデータ収集やタスクの重複を除きオープンにし、透明化することによってでした。

今日のｅエストニアの基本原則について簡単にお話ししましょう。

まずデータや情報についてプライバシーと機密性を保証する必要があります（公開暗号鍵方式他の方法で）

これは国が発行し、どこでも使うことができる強力な電子IDによって実現されています。エストニア国民は、全員持っています。このIDには電子署名があってエストニアとEUの両方で受け入れられ、使用でき法的拘束力があります。

システムで利用者が誰であるかが、安全で適切な方法で確認されるとその人の個人データや公共サービスが、すべて１つのアプリから利用できるようになり、電子的な署名であらゆる手続きができます。

２つ目の原則は、最も影響が大きかったもので「一度きり」の原則と呼ばれています。

これは、国が同じデータを２度以上要求することも、２か所以上に保存することもできないというものです。

たとえば、出生証明書や結婚証明書を当該登記所に提出していれば、そこが、そのデータの保管される唯一の場所であり、他の役所から再び提出を求められることはありません。

一度きりの原則は、とても強い規則であり、国のデータ収集の仕組みの全体や何の情報を集め、その維持に誰が責任を持つかを定めていてデータの集中化や重複を避けさせ、データが最新状態に保たれることを保証しています（Gitの仕組み？）

この分散的アプローチは、単一障害点の問題を避けることにもなります。一方で、データは複製することも２度以上収集することもできないので公的機関のサービス提供のために情報に常時、安全確実にアクセスできるような仕組みが必要になります。

それが「X-Road」と呼ばれるデータ交換プラットフォームの役割で2001年から稼働しています。

幹線道路のように公的なデータベースや登録簿と地方自治体や企業を結び、リアルタイムで安全な管理されたデータ交換ができるようにし、それぞれの活動について監査可能な記録を残します。

こちらは「X-Road」上のデータ要求や接続されているサービスの状況を示している画面イメージです。こちらは公共データベースや企業データベースの実際の接続状況を表した図です。

ご覧のように中心になるデータベースというのは存在しません。

機密性とプライバシーは非常に重要ですが、デジタルの世界では、情報の信頼性と完全性も運営上重要になります。

たとえば、誰かが皆さんのアレルギーに関する医療記録を医師や本人の知らないところで改変したとすると治療が致命的なものになりかねません。ですからエストニアのようなデジタル社会で紙の原本がなく、電子的な原本しかないというとき、データやデータ交換規則、ソフトウェアログファイルの完全性はきわめて重要です。

ブロックチェーンが話題になるずっと以前の2007年に考案された一種のブロックチェーンを使ってデータの完全性の確認と保証をリアルタイムで行っています。

ブロックチェーンは、私達の監査役でありデータへのアクセスや操作が、記録を残さずに行われることがないようにしています。

データの所有権はシステムを設計する上でもう１つの重要な原則です。

行政府や技術系そのほかの世界の企業が、皆さんについて集めたデータを自分のものにしていることに不安を感じませんか？

データにアクセスさせてはくれないし、それがどう使われどう第三者に共有されているのかちゃんと示されていません。私にはすごく気にかかる状況です。

エストニアのシステムは、集められた個人データは本人のものという原則に基づいています（著作権も）

だから、本人はどんなデータが集められ、誰がそれにアクセスしたかを知る絶対的な権利を有しています。警察や医者や行政府関係者が、市民の個人データを見るときには、必ずログインした上で職務上必要と認められた情報にのみアクセスします。

また情報へのアクセスを要求すると、必ず、誰が、どのようにアクセスしたかログに記録されます。この詳細なログは、国の公共サービスの一部で真の透明性を実現し、プライバシー侵害があれば、メールなどで知らせ、本人に分かるようになっています。

もちろんこれは、ｅエストニアの設計原則の単純化した要約です。

今、行政府は、人工知能を活用できる新世代の公共サービスの構築に取り組んでいます。出産、失業、起業といったその人の人生における状況に応じて自動的に起動される一貫したサービスです。

紙の写しがないデジタル社会では問題が起き得ます。私達はシステムの堅牢性を信頼していますが、2007年の経験があり用心にこしたことはありません。

最初のサイバー事件があってネットワークの一部が、ブロックされ何時間もサービスが利用不可になりました。私達は乗り越えましたが、この出来事からサイバーセキュリティは、プラットフォームの強化とバックアップの両面で最重要課題になりました。

何もかもが近くにある小さな国で全国規模のシステムをどうバックアップしたものでしょう。たとえば、国外の治外法権のある大使館にデータのコピーを取っておくことができます。

現在、そのようなエストニアの最も重要なデジタル資産を保持するデータ大使館がいくつもあり、たとえ国土が攻撃にさらされた場合でも途切れることのない行政、データの保護、そして、最も重要な主権の維持を可能にしています。

その短所は何かと思っている人もいるでしょう。

完全にデジタル化することは管理の上でもコストの上でもより効率的です。コンピューターを通してやるというのは、人間的要因や政治家や民主プロセスへの参加の重要性が、下がるような印象を持つかもしれません。

テクノロジーが行き渡ることで自分のスキルが古びることを脅威に感じる人もいるでしょう。残念ながら国の運営をデジタルシステムに移しても政治権力争いや社会における対立がなくなるわけではなく、それは前回の選挙で目にしたことです。

人間がいる限りなくならないでしょう。

最後になりますが、世界のどこからでもすべてのサービスにアクセスできるのであれば、エストニアに住んでいない外国の方にも一部のサービスを利用可能にしてはどうでしょう？

５年前にｅレジデンシー(電子居住者)プログラムという国営事業が立ち上げられ、今では何万人もの人が加入しています。

136か国のビジネスパーソンが電子的に会社を作り、オンラインで取引し、EUの法的枠組みの下、ｅエストニアのシステム上で仮想的に会社を運営しており、私のIDと同様のeIDカードを使ってそれを世界のどこからでも行えます。

エストニアのシステムは、人間中心で場所に縛られません。すべての人が使え、オープンで信頼性があることに重きを置いています。

セキュリティと透明性を中心にしています。データはその対象である正当な所有者の手にあります。私の話を聞くだけでなくやってみてください。

ありがとうございました。

（個人的なアイデア）

Before 2022, this would not have been possible, but with Apple, Google, and Microsoft agreeing to expand the use of “passkey,” a passwordless authentication system…

２０２２年以前では、不可能だったが、Apple・Google・Microsoftがパスワードなしの認証システム「パスキー」の利用拡大に合意したことで・・・

…on the basis of high security and a high degree of privacy as well…

高いセキュリティと高度なプライバシーも基本にして・・・

…and if, as Ivan Pupilev says, all everyday objects have gesture interface capabilities…

イワン・プピレフの言うように日常的な物すべてにジェスチャーインターフェース機能を搭載していれば・・・

By integrating them with a common smart home standard, “Matter,” and making it possible to automatically connect to them by simply approaching them, assuming permission and authentication…

スマートホーム共通規格「Matter」で統合して近づけるだけで本人の許可、認証を前提とし自動接続できるようにすることで

It may be possible to customize even simple functions as complex functions by combining various devices in a stand-alone manner.

単体では、単純な機能でもさまざまな機器を組み合わせることで複雑な機能としてカスタマイズできるようにできるかもしれない。

In the past, OpenDoc, a technology developed by Apple to realize compound document and document-centered operation, was available.

かつて、OpenDoc（オープンドック）は、Appleが開発したコンパウンド・ドキュメントとドキュメント中心の操作実現する技術があったが

Can we extend this technology to shift from a document-centric to a gesture-centric interface?

これを拡張して、ドキュメント中心からジェスチャーインターフェース中心にできないだろうか？

If you want to work on a larger screen from your smartphone, iPhone, or iPad with a user interface by wearing the Oculus Dash or HoloLens from Oculus Quest

Oculus QuestにあるOculus DashやHoloLensなどを身につけることでユーザーインタフェースをスマートフォン、iPhone、iPadからもっと大きい画面で作業したい場合

It was usual to use a computer with a large screen, but now it is possible to use a huge screen! However, there were limits to the amount of money and placement of the display.

大画面のパソコンでというのが、普通でしたが、もっと、巨大な画面で！！という場合はディスプレイの金額的、配置場所にも限界がありました。

Virtual reality as the future of the holographic age, Virtual reality Virtual reality OS and its extension to the gesture interface center.

ホログラム時代の未来にあるものとして、Virtual reality バーチャルリアリティのOSとジェスチャーインターフェース中心への拡張

Seamlessly linked together, there will be no spatial limits, and you’ll be able to work in a small room with any number of huge, large screens that you can place anywhere in 360 degrees!

シームレスに連携させることで、空間的に限界は無くなり、小さな部屋でいくらでも巨大な大画面で３６０度どこにでも置いて作業できるようになります！！

For example, even if it is not possible to display 3D without wearing glasses like the gesture interface in the sci-fi movie “Iron Man”…

例えば、SF映画「アイアンマン」に出てくるジェスチャーインターフェイスのようにメガネをかけずに立体表示させるとまではいかないまでも

It may be possible to “make it look realistic by wearing special glasses” such as Oculus Dash and HoloLens in Oculus Quest, so…

Oculus QuestにあるOculus DashやHoloLensなど「特殊なメガネをかけることでリアルに見せる」ことはできそうなので・・・

It would be fun to display the setting panel of a simple function device that you touch through the special glasses as if it pops up from inside the device in CG in a hologram format (image: Genie Effect on Mac)

特殊なメガネを通して、触った単純な機能の機器の設定パネルをホログラム形式でCGで機器の中からポップアップするように表示してくれると楽しそう（イメージは、Macのジニーエフェクト）

警察比例の原則。

前提として、公人、有名人、俳優、著名人は知名度と言う概念での優越的地位の乱用を防止するため徹底追跡可能にしておくこと。

最近２０２３年から始まったジェネレーティブ人工知能の流行によって

ジェネレーティブ人工知能で作られたメディア（画像・映像など）が人々の目に触れる際には、情報源を開示するよう求めている（オープンAIなど10社が自主ガイドラインに署名した）

ヘンリー・マークラムの研究で脳のイメージが数値化されたデータから・・・

この膨大なデータをディープラーニングを搭載したジェネレーティブ人工知能に候補を複数映像化させる

こうすることでストーカーしかできない人工知能の問題を解消できる？かもしれない

憲法第19条にもあるように「内心の自由」正確に特定しないようにして

権力者の頭脳の中身をリアルタイムに複数映像化したことをチャットGPTに説明してもらう。

これは三つしかない内のひとつ。リカレント・ニューラル・ネットワークを使います。

この権力者の頭脳の中身をリアルタイムに映像化したことをニティシュ・パドマナバンの老眼鏡を含めた未来の自動オートフォーカス搭載メガネなどを用いて

特殊なメガネを通して、ホログラム形式でCGからポップアップ表示できる可能性もありそうです。

しかし

機械学習ディープラーニング物体検出データベースのことを「Darknet」と呼んでいます。

フェイフェイ・リー構築した機械学習ディープラーニング画像データベースのことを「ImageNet」と呼んでいます。

他には、今のところ、リカレント・ニューラルネット（RNN）フレームワークなど・・・

たった三つしかないのが２０２２年の現状です。

チャットGPTは、大規模言語モデル。

懸念されることとして、アメリカ政府が諜報に使用するエシュロンやPRISMに近い可能性もある。

Google検索データは、広告に使われるが、オープンAIはMicrosoftと資本提携で入力データが何に使用されるか？

これを明示していないという危険性がある可能性があります。

さらに・・・

勝手に警察が拡大解釈してしまうと・・・

こんな恐ろしいことが・・・

日本の警察は、2020年3月から防犯カメラやSNSの画像を顔認証システムで本人の許可なく照合していた！

憲法に完全違反！即刻停止措置をみんなで要求せよ。

日本の警察の悪用が酷いので、EUに合わせてストーカーアルゴリズムを規制しろ！

２０２１年に、EU、警察への初のAI規制案！公共空間の顔認証「原則禁止」

EUのAI規制は、リスクを四段階に分類制限！

前提として、公人、有名人、俳優、著名人は知名度と言う概念での優越的地位の乱用を防止するため徹底追跡可能にしておくこと。

禁止項目は、行動や人格的特性に基づき警察や政府が弱者個人の信頼性をスコア化や法執行を目的とする公共空間での顔認識を含む生体認証。

人間の行動、意思決定、または意見を有害な方向へ操るために設計されたAIシステム（ダークパターン設計のUIなど）も禁止対象にしている。

禁止対象の根拠は「人工知能が、特別に有害な新たな操作的、中毒的、社会統制的、および、無差別な監視プラクティスを生みかねないことは、一般に認知されるべきことである」

「これらのプラクティスは、人間の尊厳、自由、民主主義、法の支配、そして、基本的人権の尊重を重視する基準と矛盾しており、禁止されるべきである」

具体的には、人とやり取りをする目的で使用されるAIシステム（ボイスAI、チャットボットなど）

さらには、画像、オーディオ、または動画コンテンツを生成または操作する目的で使用されるAIシステム（ディープフェイク）について「透明性確保のための調和的な規定」を提案している。

高リスク項目は、法人の採用活動での利用など違反は刑事罰の罰金を売上高にかける。

など。他、多数で警察の規制を強化しています。

人間自体を、追跡すると基本的人権からプライバシーの侵害やセキュリティ上の問題から絶対に不可能です！！

これは、基本的人権がないと権力者が悪逆非道の限りを尽くしてしまうことは、先の第二次大戦で白日の元にさらされたのは、記憶に新しいことです。

マンハッタン計画、ヒットラーのテクノロジー、拷問、奴隷や人体実験など、権力者の思うままに任せるとこうなるという真の男女平等弱肉強食の究極が白日の元にさらされ、戦争の負の遺産に。

基本的人権がないがしろにされたことを教訓に、人権に対して厳しく権力者を監視したり、カントの思想などを源流にした国際連合を創設します。他にもあります。

参考として、フランスの哲学者であり啓蒙思想家のモンテスキュー。

法の原理として、三権分立論を提唱。フランス革命（立憲君主制とは異なり王様は処刑されました）の理念やアメリカ独立の思想に大きな影響を与え、現代においても、言葉の定義を決めつつも、再解釈されながら議論されています。

また、ジョン・ロックの「統治二論」を基礎において修正を加え、権力分立、法の規範、奴隷制度の廃止や市民的自由の保持などの提案もしています。現代では権力分立のアイデアは「トリレンマ」「ゲーム理論の均衡状態」に似ています。概念を数値化できるかもしれません。

権限が分離されていても、各権力を実行する人間が、同一人物であれば権力分立は意味をなさない。

そのため、権力の分離の一つの要素として兼職の禁止が挙げられるが、その他、法律上、日本ではどうなのか？権力者を縛るための日本国憲法側には書いてない。

モンテスキューの「法の精神」からのバランス上、法律側なのか不明。

立法と行政の関係においては、アメリカ型の限定的な独裁である大統領制において、相互の抑制均衡を重視し、厳格な分立をとるのに対し、イギリス、日本などの議院内閣制は、相互の協働関係を重んじるため、ゆるい権力分立にとどまる。

アメリカ型の限定的な独裁である大統領制は、立法権と行政権を厳格に独立させるもので、行政権をつかさどる大統領選挙と立法権をつかさどる議員選挙を、別々に選出する政治制度となっている。

通常の「プロトコル」の定義は、独占禁止法の優越的地位の乱用、基本的人権の尊重に深く関わってきます。

通信に特化した通信プロトコルとは違います。言葉に特化した言葉プロトコル。またの名を、言論の自由ともいわれますがこれとも異なります。

基本的人権がないと科学者やエンジニア（ここでは、サイエンスプロトコルと定義します）はどうなるかは、歴史が証明している！独占独裁君主に口封じに形を変えつつ処刑される！確実に！これでも人権に無関係といえますか？だから、マスメディアも含めた権力者を厳しくファクトチェックし説明責任、透明性を高めて監視しないといけない。

今回、未知のウイルス。新型コロナウイルス2020では、様々な概念が重なり合うため、均衡点を決断できるのは、人間の倫理観が最も重要！人間の概念を数値化できないストーカー人工知能では、不可能！と判明した。

複数概念をざっくりと瞬時に数値化できるのは、人間の倫理観だ。

そして、サンデルやマルクスガブリエルも言うように、哲学の善悪を判別し、格差原理、功利主義も考慮した善性側に相対的にでかい影響力を持たせるため、弱者側の視点で、XAI(説明可能なAI)、インターネット、マスメディアができるだけ透明な議論をしてコンピューターのアルゴリズムをファクトチェックする必要があります。

＜おすすめサイト＞

量子セキュリティ対応の暗号化の最前線 - WWDC25

エリエザー・ユドコフスキー：超知能AIは人類を滅亡させるだろうか？

ゲイリー・マーカス：暴走するAIの緊急のリスクと、それらについて何をすべきか？

ケイド・クロックフォード：顔認証による大衆監視について知る必要のあること！

マックス・テグマーク: AIに圧倒されるのではなく、AIからパワーを得る方法

マックス・テグマーク：AIをコントロール下に置く方法

クレイグ・コステロ：暗号専門家と量子コンピューター、新しい競争？

ニコラ・スタージョン：行政府が低収入者へのウェルビーイング（幸福度）を最優先するべき理由

マーティン・フォード: 職が無くなる未来の社会システムでのお金の稼ぎ方

ルトハー・ブレフマン：貧困は「人格の欠如」ではなく「金銭の欠乏」である！

個人賃金→年収保障、ベーシックインカムは、労働市場に対する破壊的イノベーションということ？2022（人間の限界を遥かに超えることが前提条件）

世界の通貨供給量は、幸福の最低ライン人間ひとりで年収６万ドルに到達しているのか？2017

量子コンピューターの基本素子である超電導磁束量子ビットについて2019

＜提供＞

東京都北区神谷の高橋クリーニングプレゼント

独自サービス展開中！服の高橋クリーニング店は職人による手仕上げ。お手頃50ですよ。往復送料、曲Song購入可。詳細は、今すぐ電話。東京都内限定。北部、東部、渋谷区周囲。地元周辺区もＯＫです

東京都北区神谷高橋クリーニング店Facebook版

サム・ハリス: 人間より優れた人工知能を作って制御を失わずにいることは可能か？

ＴＥＤにて

サム・ハリス: 人間より優れた人工知能を作って制御を失わずにいることは可能か？

（詳しくご覧になりたい場合は上記リンクからどうぞ）

注意！！現在、基本的人権を侵害するストーカーアルゴリズムしか能力のない人工知能です。

高度な人工知性を持つAI(人工知能)を怖いと感じますか？

神経科学者であり思想家であるサム・ハリスは、単に理論的な可能性としてでなく、実際に怖れるべきだと警告します。

人間を超える知力を持つAIがやがて作られることになるが、人間がアリを扱うように、人間を扱うAIを作ることの問題に、我々はきちんと向き合っていないと、彼は指摘します。

人工知能によって、我々がどのように利益を得。そして、最終的には破滅を招きかねないか？お話しします。人工知能が、人類を破滅させたり、自滅に追い込んだりしないシナリオは実際考えにくい気がします。

それでも皆さんが、私と同じならそういったことについて考えるのは楽しいことでしょう。その反応自体が問題なのです。

現実の貧困や飢饉は楽しいものではありません！一方で、SFの中の破滅は楽しいものなのです。我々は、２つの扉を前に立っているようなものです。

１つ目の扉の先には、知的な機械の開発をやめるという道があります。

ハードウェアやソフトウェアの進歩が、何らかの理由で止まるのです。そういうことが起きうる要因をちょっと考えてみましょう。自動化やインテリジェント化によって、得られる価値を考えれば、人間は可能な限りテクノロジーを進歩させ続けるはずです。

もう１つの選択肢、２番目の扉の向こうにあるのは、知的な機械の進歩がずっと続いていく未来です、すると、どこかの時点で人間よりも知的な機械を作ることになるでしょう。

そしてひとたび、人間より知的な機械が生まれたなら、機械は自分で進化していくでしょう。

そうなると我々は、数学者 I・J・グッドが言うところの「人工知能爆発」のリスクに直面します。進歩のプロセスが人間の手を離れてしまうのです。

人類がアリのような存在になると考えるといいです。我々は、アリが嫌いなわけではなく、わざわざ潰しに行きはしません。潰してしまわないように気を遣いさえしてアリを避けて歩きます。

でも、アリの存在が我々の目的と衝突した時。たとえば、こんな建造物を作るという場合には、良心の呵責なしにアリを全滅させてしまいます。

（巨大な権力者と弱者の関係にも似ています。弱者には有効な対策として、基本的人権や独占禁止法の優越的地位の乱用を根拠に集団訴訟をする方法があります）

私が懸念するのは、意識的にせよ無意識にせよ、人類をそのように軽く扱う機械を我々がいつか作ってしまうことです。

考えすぎだと多くの方は思っていることでしょう。超知的AIの実現可能性を疑問視し、ましてや、不可避などとは思わない人もいるでしょう。

でも、それならこれから挙げる仮定に間違いを見つけてほしいものです。

仮定は３つだけです。「人工知性」について

人工知性とは、物質的なシステムにおける情報処理である。実際これは仮定以上のものです。

狭い意味での、特定分野限定の知性なら、もう機械で作り出されており、そのような機械はすでに、Googleなどの先駆者を筆頭に人間を超える水準に達しています。

そして、様々な分野にわたって柔軟に思考できる能力である「汎用知能」は、物質で構成可能なことを我々は知っています。なぜなら人間の脳がそうだからです。ここにあるのはただの原子の塊です。

より知的な振る舞いをする原子でできたシステムの構築を続けていくなら、何かで中断させられない限りは、いつか汎用知能を機械で作り出すことになるでしょう。

重要なのは、ここで進歩のスピードは問題ではないことです。

どんな進歩であれ、そこに至るのに十分だからです。ムーアの法則の持続も指数爆発的な進歩も必要ありません。ただ、巡航速度で続けていくだけでいいのです。

第２の仮定は、人間が進み続けていくこと。我々が知的な機械の改良を続けていくことです。人工知性の価値を考えてください。

人工知性は、我々が価値を置くもの。すべての源泉。価値を置くものを守るために必要なものです。我々が持つ最も貴重なリソースです。我々はそれを必要としています。

我々は解決すべき問題を抱えています。アルツハイマーやガンのような病気を治したいと思っています。経済の仕組みを理解したい。気象科学をもっと良くしたいと思っています。

だから、可能であればやるはずです。列車はすでに駅を出発していてブレーキはありません。

３番目は、人間は知性の頂点にはおらず、その近くにすらいないということ。これは重要な洞察であり、我々の状況を危うくするものです。これはまたリスクについての我々の勘が当てにならない理由でもあります。

知能の分布には、今の我々に想像できるよりもはるかに大きな広がりがあることでしょう。

そして、我々が人間よりも知的な機械を作ったなら、それはこの知能の地平を我々の想像が及ばないくらい遠くまで進んでいくことでしょう。

重要なのは、スピードの点だけを取ってもそれは確かだということです。スタンフォードやMITの平均的な研究者並みの知能を持つ、超知的AIができたとしましょう。

電子回路は、生化学的回路より100万倍も高速に稼働します。その機械は、それを作り出した頭脳よりも100万倍速く働くということです。

だから、１週間稼働させておくと人間並みの知的作業を２万年分こなすことになります。毎週毎週です。そのような進歩をする頭脳は、抑えるどころか恐怖すらし、理解することすらおぼつかないでしょう。

正直言って、心配なことが他にもあります。それなら最良のシナリオはどんなものでしょう？安全性について心配のない超知的AIのデザインを思い付いたとします。

完璧なデザインを最初に手にすることができた神のお告げで与えられたかのようにまったく意図したとおりに振る舞います。

その機械は、人間の労働を不要にする完璧な装置になります。

どんな肉体労働もこなす、機械を作るための機械をデザインでき、太陽光で稼働し原材料費くらいしかかかりません。

人間は苦役から解放されます。知的な仕事の多くすら不要になります。

現在の政治経済システム状況の元でどんなことが起きるだろうか？考えてみてください。

政治経済システムを人工知能型に最適化したものに変更しない限り、経済格差や失業がかつてない規模で生じる可能性が高いでしょう。

この新しい富を即座に全人類に進んで提供、再分配事前分配する気がなければ、一握りの兆万長者がビジネス誌の表紙を飾る一方で残りの人々は飢えることになるでしょう。

シリコンバレーの会社が、超知的AIを展開しようとしていると聞いたらロシアや中国はどうするでしょう？

その機械は、地上戦であれ、サイバー戦であれ、かつてない力でもって戦争を遂行する能力があります。

勝者がすべてを手にするシナリオです。

競争でたった「半年」先んじることで、少なくとも50万年分！！

先を行くことができるのです（奇しくも、２０２３年にオープンAIに対して、イーロンマスク他の世界の著名人が人工知能を訓練する計算開発を少なくとも「半年」遅らせろ！！と提言しています）

そのような技術革新の噂だけでも、世界中が大騒ぎになるでしょう（２０２３年に、チャットGPTの登場で大騒ぎしています）

今の時点で私がいちばんゾッとするのは、AI研究者が安心させようとして言うたぐいのことです。心配すべきでない理由として、よく言われるのは時間です。

そんなのは、ずっと先の話で50年とか100年も先の話だとある研究者は「AIの安全性を懸念するのは、火星の人口過剰を心配するようなものだ」と言っています。

これは「あなたの小さな頭をそんなことで悩ませないで」というやつのシリコンバレー版です。誰も気付いていないように見えるのは、時間的スケールは、この際、無関係だということです。

人工知性の実体が情報処理にすぎず、人類が機械の改良を続けていくなら、いずれ何らかの形の超知性を生み出すことになるでしょう。

それを安全に行える条件を作り出すのにどれくらい時間がかかるのか？我々には見当も付きません。

もう一度言いましょう。それを安全に行える条件を作り出すのにどれくらい時間がかかるのか？我々には見当も付きません！

今の50年というのは、ミレニアム以前のかつての50年とは違っています。

心配無用だとされる別の理由は、そういった機械は人間の延長であり、人間と同じ価値観を持つはずだというものです。我々の脳に接続され、人間はその辺縁系のような存在になるのだと。

ちょっと考えてほしいんですが、最も安全で、唯一、分別のあるやり方として勧められているのは、その技術を直接自分の脳に埋め込むことだと言うのです。

それは実際に、最も安全で、唯一、分別のあるやり方なのかもしれませんが、テクノロジーに対する安全性の懸念は、ふつうであれば頭に埋め込む前に解消されているべきではないでしょうか？

より根深い問題点は、超知的AIを作ること自体は超知的AIを作り、かつ、それを人間の脳に統合するための神経科学を完成させることよりは簡単だろうことです。

これに取り組む国や企業は、他の国や企業と競争をしていると認識しており、勝者が全世界を手に入れられるのだとすれば、そのような状況においては何にせよ簡単な方が先に成し遂げられることでしょう。

あいにく、私はこの問題への答えを持ち合わせてはおらず、ただもっと考えてみるようにお勧めするだけです。

人工知能のための「マンハッタン計画」のようなものが必要なのではないかと思います。作るためではありません。

それは、不可避でしょうから、軍拡競争のようになるのをいかに避けられるか探り、人類の利益にかなうようにそれが作られるようにするためです。

超知的AIが自身を変えていけることを考えるとそれを正しく作れるチャンスは１度しかないでしょう。しかも、その上でそれを正しくやるための政治的・経済的な帰結を受け入れる必要があります。

人工知性の源は、情報処理だと。人工知性の基礎をなしているのはある種の計算システムであるということを認め、人類がそういうシステムを継続的に改良していくだろうことを認め。

そして、認知の地平は我々に、今、分かっているよりもはるか遠くまで続いているであろうことを認めるとき・・・

我々は、ある種の人工的な神といわれるものを作ろうとしていることを認めないわけにはいかないでしょう。

その人工的な神と言われる何かが一緒にやっていける相手か？

確かめたいなら、今（これは２０１６年時点です）がその時です。

こういう新産業でイノベーションが起きるとゲーム理論でいうところのプラスサムになるから既存の産業との

戦争に発展しないため共存関係を構築できるメリットがあります。デフレスパイラルも予防できる？人間の限界を超えてることが前提だけど

しかし、独占禁止法を軽視してるわけではありませんので、既存産業の戦争を避けるため新産業だけの限定で限界を超えてください！

（個人的なアイデア）

その後、西洋占星術でいう風の時代が到来。

２０２０年から新型コロナウイルスのパンデミック。

２０２２年から続いて、ロシアのウクライナ侵攻。

２０２３年では、幼稚ではあるが人工的な神のような回答するチャットGPTが登場。

「エピソード7意識のマップの数値と人工知能を訓練する計算回数が相似？」でも指摘しているように

兆候が顕在化してきています。

エピソード7の意識のマップでも、表示しているように、人工の神を創造するともなれば、その最初のステップで一神教が言うような全知全能の神ではなく

カイヨワも言い一神教も言うようなあらゆる悪魔が顕現するような可能性も否定できません。

よく一神教で登場すると言われるパンドラの箱の話に似ています。

ニックボストロムが言う「黒い玉」「死の玉」のことかもしれません。

ヘンリーマークラムが、人間のシナプスやニューロンの動きを数値化しようとしているが、より大きく人間の限界を遥かに超えるような発想で。

ロビンハンソンの言うように、現実の脳自体をデジタルデータにして、人間のシナプスやニューロンの動きを数値化していくことで、現在では、数値化できない概念をコンピューター上で数値化していくということかもしれない。