Frameworkを使っていない。Pythonで書いている。
これをもっと単純化して1入力、1出力、中間層は3ニューロンでの構成で sin(x)を学習させるという例題がある。
実はワタクシは本は買わず出版社サイトから例題をDLしてVScodeでコードをざっと見たのだが・・・・理解できぬ(´・ω・`) ワタクシ、こうみえても愚脳なんです、キリッ)
で、コードを見ていて、シャッフルがあって。なんでこんな事をするのか? と疑問だったが先日、図書館から本を借りて読んで分かったのである。
シャッフルするのは確率的勾配降下法というアルゴリズムの実現なのである。なるほどね、一歩前進しましたわ＼(^o^)／
規模の小さなニューラルネットワークであるがコードはPythonで追っていけるので、なるほどなあと納得することが多々あり。納得できないところも多々あり。それはVScodeでデバッガー使ったり、王道の print() 使って変数の値を確認したりしてだな。
例題はJupyterファイルなのだがワタクシはブラウザでの処理はトロトロしすぎて嫌いなのだVScodeを使う。上の本は2018年初版であり当時はVScodeでJupyterが動いたかどうか知らぬ。覚えておらぬ。だが、今はVScodeでJupyterは動く。Select Kernelが必須だけど。
Pythonのバージョンも3.7, 3.8, 3.9, 3.10, 3.12とワタクシ使えるのであるぞの。よってに上の本は3.5での動作確認らしいので 3.8で試した。動いた。やたっ。
このような単純な簡潔な構成でのPythonによる記述での例をいくつか試したら次はKerasなりTensorFlowなり流行りのFrameworkを使えばよかろう。ワタクシは使わぬ。
ワタクシはAI, 機械学習等で何かアプリを作りたいのではなく、機械学習ってどういうものなのか、逆誤差伝播法ってどういう仕組もなのだ、CNNってなんだよ、BBCってのもあるのか、いやRNNというのはあるらしいぞ、VOAってのはないのか、・・・というように雑学を収集するのが趣味なのであるぞの。どや。
ここだな。企業社会ってどいうものなのかしら? 大学出て一部上場企業に技術者として就職して3,4年で、あーーここはこういうものなのか、と分かると次に進む。転職を何回か繰り返して、ああ、世の中はそういうふうになっているのか、と知る。
一部上場企業の超・大手でワタクシが見た理不尽の一つは残業に関するものだ。サブロク協定というものがあって、詳しくは忘れたが労働組合と会社で合意があって。残業は月に30時間とかの制限があって。それを杓子定規に守る企業はあったかどうか知らないが、エンジニアが残業しない状況で競争に勝てるはずがない。残業代が天井知らずという労働組合のない企業の技術者が20代後半で年収は1000万円近く。残業代が天井知らずだからだ。
ワタクシが見た超・大手のメーカーは30時間で制限だ。正社員は残業時間は30時間に抑える。簡単に言うと30時間でタイムカードは終える。その後に仕事している。
当時、ワタクシはそこで働いていたものの正社員でもないし、土方だったのだが。当時の課長が言うとった。残業して働いた分はカネを出すべきだような・・・
それが超・大手の家電メーカーの現実だった。ワタクシは正社員ではなく土方であり、時間給で働いていたので残業代は全部出た。そういう契約だったし（笑）
ようするに、自分が大手企業から零細企業までいくつか見て、経済社会というものの現実はこれだよな・・・という事をワタクシは知った。技術系に限定だけどね。
機械学習、AIってこういう感じなのだなと納得するものがあればワタクシの雑学収集としては終わりである。アプリを作るという高望みはない（笑）
企業社会ってのもこういうものだ・・・とワタクシが知ったので終わりである。本来は残業代を正しく出すべきであるという主張が消えて、労働時間の短縮という筋違いの方向に意図的に持っていこうとしているのが多々いる。野党も企業の人件費を節約しようという方向で協力している。
毎日定時で帰ってどうしますか、という問いに。野党のボンクラは言った。バイトするとか副業するとか・・・・ アポの典型。それならば残業するほうがマシってことも理解できない無能が代議士やっとる。党名は忘れたが昔の野党で。もう消えているか。無能ってのは本当にいるものだとびっくりしたけどな。
FPGAというものがある。デジタル回路の構成をユーザーが変える事ができる。1990年代の半ばごろから出てきた。Xilinx, Altera, Latticeの3社に2000年頃には収束した。
ASICというLSIを開発するよりも開発時間は劇的に短い。用途は何か。事業電子機器での採用が増えた。小型のオーディオプレイヤー等には向かない。
ワタクシも2000年頃から勉強を初めて、職場での学習会、FPGA商社等のセミナーにも出席して、だ。ワタクシは設計土方であって社員ではなかったのだが行って勉強してこいと。
で、やはり愚脳の悲しいところだが理解が遅い。20代の若者がスイスイと理解できるところをワタクシはトロトロだ。だが、一旦理解すると理解はしっかりしているのである。どや。
結局、FPGAとはどいうものか・・・納得した。実際に設計した。
で、時代はとっととすぎてFPGAの2大巨頭のALtera, XilinxはIntel, AMDに買収されたのである。
FPGAの用途がある分野では相変わらず需要はあるだろう。これが爆発的に需要が爆発的に増える可能性はない。ないと思うのはワタクシの愚脳の発想。だが、目端が利く連中とか、まだFPGAの用途の爆発的増加の市場を予測しているのもいるかも知れぬ。ワタクシは知らぬ。
けっきょく、ニューラルネットワークとは、ディープラーニングとは、機械学習とは、。。。。。。そういうものに用語としては慣れてきて、だいたいそんな感じのものだよなという納得感もある。詳細は知らぬ。
極めて規模の小さい構成でのpythonでの処理をコードを読んで分かったのだが、それで規模のでかいDeep Learningのシステムの理解が出来るとは思えぬ。
半世紀ぐらい前のパーセプトロンから現在のDeep Learningを予想できた技術者・研究者はいなかった、と思う。
それは愚脳だから、という理由ではない。賢脳であっても近未来の予測が正しく出来るわけでもない。目端が利く人が多々いるわけでもない。様々な要因で社会は動いていく。
その中に後で目端が効く人だったと言われる人が出てくる。まぐれであり、当たりである。運である。多くはいない。
というようなことを上の本を読んでから想像したのである。趣味が想像・妄想でして（笑）
