更新日記 - 日曜プログラマのひとりごと
AI業界の｢中国脅威論｣は本当か？ - 日本のAIベンチャーが米気鋭学者集団と組んだ理由 | BUSINESS INSIDER JAPAN。CogitAIを調べていると、清水さんのGHELIA(ギリア)につながった。ソニーCSLつながりなのだろう。ギリア、強化学習技術の最先端企業である米コジタイ社と戦略的パートナーシップで合意｜ギリア株式会社のプレスリリース(2018.10.18)。
CogitAIの米気鋭学者集団の中には、DeepMindにも参加しているUniversity of AlbertaのSutton教授も名を連ねている。
清水氏 ｢DeepMindの成果は確かに素晴らしいものです。ただ、プログラマーの目線で分解して見ると、たとえばAtari社のブロック崩しの攻略で世界を驚かせた技術はDQN（Deep Q-Network）と呼ばれるものです。
では、DQNをDeepMindがゼロから発明したのか？ というと、そうじゃありません。DQNの根幹部分であるQN（Q-Network）は、Q学習(Q-Learning)という強化学習技術で、これはCogitai社に所属するピーター・ダヤン博士が1990年代に発表した技術です。
言い方を変えれば、DeepMindのやったことは、古典的なアルゴリズムに深層学習を組み合わせただけとも言えます。AlphaGoに関しても、ディープラーニングと古典的なモンテカルロ木探索の組み合わせです。
実のところコアとなる学習部分そのものでは、DeepMindとは関係なく、古典的手法が使われています。古典的手法であるからには、それが深層学習と無関係に洗練されてきた強化学習の方法論があるはず。そこをたどっていくと、Cogitaiという頭脳集団に行き着いたわけです｣
この部分だけでなく、傾聴に値する発言が多い。強化学習など、AI研究の新しい流れはDeepMindだけでなく、Cogitaiもあるということになる。
Cogitai - Self-Learning Actionable AIに、ピーター・ダヤン(Peter Dayan)の名前もある。今の所属はDepartment for Computational Neuroscience | Max Planck Institute for Biological Cybernetics Tubingenとなっている。Peter Dayan and Li Zhaoping appointed to the Max Planck Institute for Biological Cybernetics | Max-Planck-Gesellschaftなどによれば、脳の意思決定プロセス研究の専門家ということになる。人工知能が言語学とともに生物学となっていく可能性があるのは興味深い。生物学を背景とする人間学であるかもしれない。
Q学習についてはゼロからDeepまで学ぶ強化学習 - Qiitaが参考になるだろう。モデルのない状態から学習するのはどうするのか。
「Deep TAMER」については[1709.10163v2] Deep TAMER: Interactive Agent Shaping in High-Dimensional State Spacesの論文を調べてみたほうが良いだろう。人間がコンピュータをトレーニングするための深層学習フレームワークだ。
「The TAMER Framework」そのものについては、Peter Stone: Interactively Shaping Agents via Human Reinforcement: The TAMER Frameworkが読める。TAMERは「Training an Agent Manually via Evaluative Reinforcement」の略。こちらの論文は、Peter Stone: TAMER: Training an Agent Manually via Evaluative Reinforcementで読める。
もう一つ注目しておく必要があるのは、Peter Stone先生の「transfer learning」。「Transfer Learning」についての論文は、Matthew E. Taylor氏と共著のものが多い。
ソニーが東京通信工業からソニーに社名変更をした際、メインバンクからは「『ソニー株式会社』では何の会社かわからない、せめて『ソニー電子』などにしないか」と言われ、創業者の一人である盛田昭夫氏は、「ソニーが将来、エレクトロニクスの会社であるとは限らない。現在の経営者が将来のソニーの可能性を狭めることはしたくない」との趣旨を述べ、現在のソニー株式会社という社名になったという。
「Apple」は、元は「Apple Computer」だった。Appleは単なるコンピュータ・メーカーであることを止めた。AppleはSonyの後を追いかけてきた。
PS5で今後の展開を占うことになるのかも。期待している。
Cogitai = cognition + it + ai (05/21/2016)で取り上げたCogitAI(コジタイと発音する)が静かに動き始めている。Cogitai - Newsによれば、PlayStation 5も人工知能にインスパイアされたものになるらしい。これも強化学習(Reinforcement Learning)だ。
羽生善治九段、歴代最多勝数記録タイに｜将棋ニュース｜日本将棋連盟。48歳。
素晴らしいね。最近、ずっと勝ち続けている。
戸田山和久先生の「哲学入門」の265ページに図24「デネットが描く心の進化のシナリオ」がある。
ダーウィン型生物の場合は、造り付けの表現型があって、環境に適応した表現型が増殖していく。
スキナー型生物の場合は、多様な反応を「盲目的に」試す。うまくいった反応を学習する。次からはうまくいった反応を最初に選択する。これは昨今の人工知能でいう「強化学習」そのものだ。
ポパー型生物は内的環境で事前に候補となる行動を選択する。これは内部にモデルを作り、シュミレーションしてうまくいくのを確かめたうえで実際の環境で実行するので、最初から偶然以上に見込みのある行動をする。
なかなかおもしろいね。人間はポパー型生物だ。スキナー型からポパー型に進化するのかもしれないけど。「OODA LOOP」は一種のポパー型。
デネットについては、969夜『解明される意識』ダニエル・デネット|松岡正剛の千夜千冊から始めるとよいかもしれない。
金曜日の夜は朧月、土曜日は朝も夕方も微細な小雨、今朝は晴れたかなと思ったら夜は少し粒の大きな小雨。傘がいるほどではないけど。屋久島の大雨が気になる。明日は広島も雨の予報。荒天・大雨の可能性。
「OODA LOOP」のことが気になっている。五感との関係もある。五感で観察する。それは記憶と相互作用して方向性を決める。実際に行動してみる。さて、観察は正しかったか、十分だったか、思いがけない結果が得られたか、これは既に新たな観察のサイクルに入っているわけだが、評価という要素を含んでいる。
一年ぐらい前には、戸田山和久先生の「哲学入門」を読んでいて、知らないことが多過ぎて敬遠気味だったのだが、今頃になって、ミリカンの生物学的意味論(Biosemantics)という言葉に惹かれている。「OODA LOOP」を科学哲学的に見るとどう解釈できるのか。そんなことを考えている。
(2) 【対談】Shi3zさんに聞く真のUIの意味とは？ EP710 #4K #BMPCC4K - YouTubeを出発点にして、Mastodonからmstdn.guru - グルドン経由で、部下が増えたのに仕事が増える一方、という上司はOODAループを読むべし - WirelessWire News（ワイヤレスワイヤーニュース）に到達した。
OODAループとは「O(Observe;観察)→O(Orient;方向性)→D(Decide;意思決定)→A(Action;行動)のサイクル」を繰り返し回すこと。このループの回し方の速さがキーポイントになる。もちろん、ループを構成する要素の質が肝心だと思うが・・・成功する組織はPDCAではなくOODAを使うとか。観察がなければプランもできないはずということだとは思うが・・・まずは、調べ調べて調べぬく。前掲の記事からは、そんな悠長なことが書いてあるとは思えないが、OODA LOOP(ウーダループ) | チェット リチャーズ, 原田 勉 |本 | 通販 | Amazonという本がある。複雑な事象を観察して理解し、方向性を見定めるには時間が掛かる。実際、ループを何度も回す必要がある。OODAループ - Wikipedia。
PDCAのループは一回転が長すぎる。OODAなら秒単位以下のループもあるかもしれない。調べる場合は数分単位である場合も多い。様々なループが渦巻いている。一つ一つのループがエージェントみたいなものかもしれない。心の社会のようなものかな。エージェントが相互作用して世界観を形作る。
アイデア、Volunia, the first world Social Search Engineに時代が追いつきつつあるかもしれないが・・・Volunia, A Social Search Engine, Invites Public To Kick The Tiresは2012年の記事。Googleより先に検索エンジンを発明した億万長者になり得た男 - GIGAZINE経由。
Social Searchの問題点は、プライバシーにあるので、あるとすれば、Private Social Searchみたいな仕組みかもしれない。
(2) 養老孟司さんと考える これからの時代に必要な学びとは？ 長野県 学びの県づくりフォーラム Vol.2 - YouTubeをW氏の勧めで視聴。
虫取りができるなら、いつまでもやっていたい。と・・・
日記も先祖返り、しばらく一行日記的な記述が続いている。chomsky.info : Updatesの更新が昨年はなかった。noam chomsky - YouTubeで新しい動きを見ることができる。YouTubeの時代だ。
David Deutsch - YouTubeもYouTubeにある。
特報：ソニーの次世代ゲーム機「PS5」は、革命的なマシンになる｜WIRED.jp。
キーワードはSSDなんだけど・・・
シリコンバレー101(794) Appleのピザ箱はオーバーエンジニアリング? | マイナビニュース。
スティーブ・ジョブズの伝説は今も生きている。テクノロジーとリベラル・アーツの交差点で創造は生まれる。リベラル・アーツ - Wikipedia。学べよ、さらば与えられん。
アップルは本当に必要なものを追求し続けている。妥協しない。
Rebuild: 238: Organic MSG (N)で話題に出たと思ったら、シリコンバレー101(795) アースディだから「食の2.0」、話題の「Impossible Burger」を食べてきた | マイナビニュースの記事があった。
おいしいらしい。
PerlCon 2019 | The European Perl Conference in Riga, Latvia, 7-9 August。
PerlCon Talks。まずは、Larry Wallの「Perl Keynote」だけどね。
GAFAから部品メーカーまで、AIチップ大混戦-ものづくり未来図｜日経BP総研。
Amazon re:Inventは12月なので置いといて、まずはAIチップ混戦のまとめ。
6月のApple WWDC 2019の予想は、ASCII.jp：アップルiPhone、iOS 13でさらに高速化？｜篠原修司のアップルうわさ情報局にあるけど。
2019 iPhones: 11 or XI... Here's what we knowのような噂の集積もある。
Facebook、開発者会議「F8」でプライバシーを強調--改革を約束 - CNET Japan。Facebook Developer Conference. April 30 - May 1, 2019.San Jose, CA.。
YouTubeですこし覗いた程度だが・・・こちらも人間中心主義。
Microsoft Build 2019 Developer Conference May 6-8 Seattle, WA。
マイクロソフトは今日からだね。Containersのリストはわかりやすい。
明日から三日間、Google I/O 2019。Google I/Oを予想する 低価格Pixel、Stadia、カメラ付きスマスピ - ITmedia NEWSとあるけど、Google I/O 2019のExplore Themesの最後、「Build on Mobile」の次には「Beyond Mobile」とある。
「Expand onto new screens and push the limits of what's possible.」と但し書きがある。「カメラ付きスマスピ」がスクリーンを持っているデバイスなので、Google Nest Hub Max release date, specs, features and rumoursの話???
スマホのディスプレイ拡張という概念は必須だとは思う。スマホ・アプリのディスプレイ拡張という仕組みの話が加わる? どのデバイスのディスプレイに拡張するのか。テレビ/Chromecast、Chromebook、カメラ付きスマスピ・・・、どれでもいいだろうけど。
最近、見た将棋で印象に残った。王位戦 挑戦者決定リーグ 紅組、菅井竜也七段の勝つこと、負けないことについての執念、あるいは勝てる可能性が少しでもある場合はあきらめずに考えること。317手という持将棋に至る戦い。もう一つは、王位戦 挑戦者決定リーグ 白組、一分将棋になってからの羽生九段の詰みを読む力の凄さ。羽生マジックを見せてもらえた。
菅井竜也七段はNHKの将棋講座の新年度の講師を務められているが、今朝のインタビューを聴いていると、以前は将棋の真理を極めたいというような望みもあったが、今では強い相手と戦えることに楽しみを見出しているという。AIが出てきた現代、将棋講座もむずかしい。誰を講義の対象にするのかというのは微妙な問題である。
いつまで、Carnegie Library - Apple Store - Appleのページが残っているかはクエスチョンだけど・・・Today at Apple - StoryMakers Festival - Carnegie Library - Appleは、Appleの昔の「iTunes Festival London」、あるいは「Apple Music Festival」を思い起こさせる。Appleは月並みな企業とは違う。もっとも、月並みでない企業はアップルだけではないのだろう。
最近、コトラーの最新のマーケティングの本を読んでいると、時代の変化に応じて、マーケティングも大きく変化している。コトラーのマーケティング3.0は人間中心のマーケティングを標榜している。最早、顧客中心のマーケティングでもない。マーケティング4.0は人間中心のマーケティングをさらに具体化・発展させたものになっている。Appleの動向は正にその方向を目指しているように見える。顧客は人間である。人間はSNSなどを通じてインターネット上に存在し始めている。iPhoneなどのスマートフォン上に存在しているのだ。オフラインとオンラインをいかに結びつけるか・・・これは結局、IoTに集約されると思う。オフラインは「Apple Store」だけでよいのかという問題意識。
5月2日付け中國新聞に「アップル減収減益 2期連続 中国市場が不調」と出ていたが、米州と日本はそれぞれ、3%、1%増と堅調。欧州は不調。iPhoneは17%減だが、サービスは16%増、ウェアラブル(Apple Watch+Air Pods)30%増、iPad22%増。Macは5%減。フィリップ・コトラーなど著「マーケティング4.0」(朝日新聞出版、2017年)では、iPhoneなどスマートフォンは成熟したが、ウェアラブル端末はまだ伸びると予想されているとしている。また、2015年のアメリカのeコマース全体の30%はモバイル・コマースが占めている。この本の副題は「Moving from Traditional to Digital」である。マーケティングも「being digital」となりつつある。
フィリップ・コトラー - Wikipedia。実際のところ、日本語版のWikipediaには、まだ「マーケティング4.0」の記載はない。Philip Kotler - Wikipedia、英語版にもない。アップルやマーケティングはどこに行くのかといったところかな・・・
僕の関心事は、iPad/iOS、「Swift Playgrounds」の行方。Macの販売が低迷しているだけに。
iPad版Swift Playgroundsは、エンジニア必須のアプリ。このアプリのためだけにiPadを買っても損はない！ ｜ Geekroidのような記事が出てきたので、もう一度トライ。まあ、Swiftの構文を知るという意味では、簡単なところから地道に進めても損はないかなという判断。「コードを学ぼう」の1〜3の内容をよく調べてみると、プログラミングは十分以上に習得できるね。他にグラフのテンプレートなどもあるし、センサーのプログラミングも可能だ。iPadでコンパイルして実行できれば最高なんだけど。
Apple Musicで「Today at Apple」のプレイリストを見つけて聴いている。Apple Storeで掛かっているものだそうだ。
英文学の巨匠がアラン・チューリングを復活させたわけ：イアン・マキューアン、新作を語る｜WIRED.jp。
想像力の豊かな作家が考えると、チューリングの共同研究者はデミス・ハサビスになるということらしい。小説を書くにあたって、ハサビスに相談したというのだから素晴らしい。最も適任と思われる。DeepMindのWhy we launched DeepMind Ethics ＆ Society | DeepMindの記事を見ること。
Machines Like Me | Edge.orgに著者、Ian McEwanのトークがある。EdgeCastのPodcastで聴ける。
結局、読まずばなるまいとKindleで注文、手に入れた。検索してみると、確かに「Demis Hassabis」が登場する。チューリングが自殺しなかった並行(異)世界の話だから、Hassabisが多少早く生まれていても問題はないだろう。我々の世界のデミス・ハサビス - Wikipediaによれば、ハサビス氏は1976年生まれなのだ。『Machines Like Me』の物語の端緒は、1968年早くチューリングとハサビスによって始まったことになっている(37ページ)。
このKindle本には、%、ページ数と見慣れた位置No.が並んで表示されている。これはKindleが少しずつ進化していることを示している。紙の本と共存しなくてはならないからね。ページ数が分からないと、困るんだよね。読書会で紙本とKindleの両方が使われている場合。もちろん、総ページ数に表示されている%を掛ければいいんだけど、精度が足りないかもしれない。
もう一つ注文だけど、メモにKindle外からのコピー(右クリックのコピー)を貼れるようにしてほしいことと、それが実現できるなら、同時にURLが機能するようにしてほしい。おそらく、私的なメモと共有するメモの区別とか、山ほどメモが追加されるのを警戒しているのだろうけど、コンピュータとネットワークの性能は上がっている。利便性を優先すべきだろう。
それはともかく、「the Turing-Hassabis computer」が、日本の碁九段と戦う(38ページ)。そんなお話でもある。もっとも、意味深なのは、タイトルの副題「AND PEOPLE LIKE YOU」だね。「ME」って誰だろう・・・エピグラフには、キップリングの「The Secret of the Machines」の詩の一節が置かれている。第七節、「しかし、我々が生きる法則をおぼえていてほしい。我々は嘘を理解するようには作られていない。・・・」。The Secret of the Machines by Rudyard Kipling | Poetry Foundation。ラドヤード・キップリング - Wikipedia。
to be continued...
年は令和になり、新しい年の節目に考えていることを記録しておくことにも意義があるだろう。これも偶然に見つけたこと。平成の昨日から調べているというか、AIの新しい様相を探している。書物に関しては、さっき、正剛先生が読相術ということについて述べられていた。
読相術とか読相学というのは、フンボルトらの観相学（フイジオノミー）にも響くもので、モードやフェーズやアスペクトの「相」に注目する。その「相」が相似したり相転移するところを読む。基本的にはそういうことなのだが、もちろん学問として確立したいというわけではなく、ただみんなと本を読みながら、そうしたくなったのである。みんなというのはみなさん一般ではない。仕事仲間、千夜千冊の読者、イシス編集学校の師範代や師範たちのことをさす。
(Facebookの「松岡正剛」にて: セイゴオ「ほんほん」 2019･4･26(金)。これは、千夜千冊、1706夜『政談』荻生徂徠|松岡正剛の千夜千冊などにもあるのだが、本拠地が見当たらない。)
AIの新しい様相とは、強化学習の創始者が投げかけたAI研究の苦い教訓 | 日経 xTECH（クロステック）を新たな切っ掛けとして追跡し始めたもの。
・・・もともとぼくは「読み」というものは本やテキストを読む前から始まっていると見ているからで、われわれは町を歩いていても、コンビニで何かを物色しているときも、会話をしているときも、さまざまな「読み」をしているのである。そもそも知覚や認知が「読み」なのだ。これを仮に「潜読」の状態と名付けると、本やメディアや映画によって、われわれは新たに「顕読」をおこしているわけである。・・・
(上掲)
様々な観点からの潜読状態に常にあるので、そこに刺激が加わると探し始める。The Bitter Lessonが本来の出発点であるが、最後に書かれている、二番目の一般的な点は、ミンスキー先生が言われていたことのような気がする。
One thing that should be learned from the bitter lesson is the great power of general purpose methods, of methods that continue to scale with increased computation even as the available computation becomes very great. The two methods that seem to scale arbitrarily in this way are search and learning.
The second general point to be learned from the bitter lesson is that the actual contents of minds are tremendously, irredeemably complex; we should stop trying to find simple ways to think about the contents of minds, such as simple ways to think about space, objects, multiple agents, or symmetries. All these are part of the arbitrary, intrinsically-complex, outside world. They are not what should be built in, as their complexity is endless; instead we should build in only the meta-methods that can find and capture this arbitrary complexity. Essential to these methods is that they can find good approximations, but the search for them should be by our methods, not by us. We want AI agents that can discover like we can, not which contain what we have discovered. Building in our discoveries only makes it harder to see how the discovering process can be done.
Rich Sutton's Home Pageを見ると、Sutton先生は、DeepMindと「University of Alberta」に所属されている。
先日、たまたま、arXivから配信される人工知能関係のメールをチェックしていて、[1904.09023] Making Meaning: Semiotics Within Predictive Knowledge Architecturesのタイトルが気になって調べ始めたのだが、それはパース(Peirce)が登場するからだが、筆頭著者のAlex Kearneyさんをさらに調べ始めた。「I focus on Artificial Intelligence and Epistemology.」に興味を持った。Epistemologyとは認識論のこと。そして、所属が「University of Alberta」。ここで、Sutton先生と「相」が一致した。DeepMindが強化学習を活用していることはよく知っていたが、その様相とも一致したわけだ。
DeepMindがどの辺に到達しているかは、人工知能が「スタークラフト2」で人間に勝利、その闘いから見えた機械学習の次なる課題｜WIRED.jpが参考になる。WiredのDeepMind関係の記事のリストは、ディープマインド／DeepMind に関する最新記事42件｜WIRED.jpにある。
また、DeepMindの動向については、DeepMind - WikipediaとDeepMindを参照しておく必要があるだろう。
明けましておめでとうございます。今年二度目の新年の挨拶。ツイッターやLINEなどのSNSで「祝令和」のカウントダウンもあったようだが、午前0時前に就寝、新しい年の日を普段通りに迎えた。
昨日は平成最後の日を祈念して、比治山神社に参った。夕方だったので、手水舎には既に「御大典記念 令和元年五月一日」と新しい吐水龍が設置されていた。今日も出かける予定。