「アーキテクチャ」を含む日記

■コンピュータアーキテクチャは今のままなのだろうか

Webを見るには困らんが、何かをしようとすると性能が足りない。

クロック周波数はなんだかんだで上がったが、劇的ではない。

マルチコアはソフトがついていっていない。GPUのような構成だと、更に汎用性がない。

SSDは高速になっていくが、DRAMはそのまま。

HBMは極端に高いまま。積層かと言われつつ高いままだし、熱もあってダメそう。

チップサイズは露光限界になって、熱やコンセントからの電力が限界。

Appleがユニバーサルメモリにしたけど、電力効率は良くても、ピーク性能はいまいちなまま。

CPU-GPU間の帯域は狭いまま。

AIの需要は高まっているが、チップ設計の情報が少なくてAIに頼れない。

Permalink | 記事への反応(2) | 20:38

ツイートシェア

■いや大手だからベンチャーだからって判断は危険よ

https://qiita.com/twrcd1227/items/571e5029f083435e0143

なかなか香ばしい記事を読んで感想を書きたい。

著者で調べると前職か現職が何となく分かるが、記事の発信日を見る限り学生時代から意識は高かった模様だけど表面的な部分ばっかで理解はしてなかったと思われる。ハンズオン学習して何も感じない人なのかもしれない。

著者が書いている前職の駄目だった部分が今の大手にはなかったかと言えばそうじゃないだろう。現職の大手は始めは社内からかトップダウンかは分からないが社員にその土壌を作るように最終的には指示し、何年もかけて出来た土壌にである。そこに著者は後からフリーライドして自分の手柄みたいにはしゃいでいるのである。

もちろんそういった新技術の研究等に時間使える風土やそれが出来る会社の体力は大手の方が圧倒的にあるが、前職がそれを知ってたけど諦めたのかそういう気がそもそも無かったのか確認はしたのだろうか？記事の中では学習意欲が湧いているようだけどアーキテクチャとかよりまずは基本を学ぶべきと思う。コードレビューで詰められたと書いているが技術力ではなく薄っぺらい何かが相手には気に入らなかったのか、書いてないだけでそもそも著者のコミュニケーション能力に問題があるのではないかと想像してしまう。

と言うより、内部向けの研究開発チームなら分かるけど転職者が配属されるような1プロジェクトのリーダーがアーキテクチャとかで技術力不足でゴン詰めして周りも無視して自己学習させる大手とかそれはそれで前職とは別の意味で駄目ではないか？（こればっかは著者が面接や職務経歴書をどう書いたか、人事と現場でどのような会話をされたか色々あるだろうが）

もちろんOJTは大手が圧倒的に良いと思うけどそれは人事が言うべきことで、決してその土壌を作ったわけでは無い入りたての新人が自慢ぶって書くべきことでは無い。

Permalink | 記事への反応(1) | 15:38

ツイートシェア

■ディレクトリ分けが好きなひとたち

https://zenn.dev/adwd/articles/5d4a89262f4fc5

クリーンアーキテクチャ信奉者で厄介なのが「最初に目的別にディレクトリを切りましょう」勢と重なっていることだと思う

下のようなほとんど空っぽのツリーを作って悦に入る奴は本当に害悪。

探すの面倒だし、コンポーネントの関連をファイル構造から把握できない。特定画面でしか使わないものは一つのディレクトリに入れときゃいいんだよ..

A
└── B
    ├── C
    │   └── D
    │       └── E
    │           └── abc.txt
    └── X
        └── Y
            └── Z
                └── xyz.txt

Permalink | 記事への反応(0) | 08:59

ツイートシェア

■anond:20231122150958

当たり前でしょ、結局のところは使う人間のモラルの問題なわけ

そっすね

動作として"入ってるデータのみ"を使った出力ならば、盛り込んだデータ数に関わらず「引用部分が従である」が成立しないので引用が成り立たないという話。

意味わからんのだけど、著作物だけを学習させることが問題ってことか？著作物以外の要素が入ってればセーフ？

大体学習と引用をすり替えてる時点で意味わからんし

「学習モデル」って書き方は混乱するか。ここでは生成過程に注目していたので「モデルデータ」とかにしたほうが分かりやすいか。後で書くけど「すり替えて」はおらず「学習する段階の話」ではない

AIは新たに自分の頭で考えた要素を付け足さず、モデルデータから選んで切り貼りする以上の動作を行っていないので「著作物を引用した新たな著作物」とは言えず「転載物の集合体」として扱える(と考える)。モデルデータの中身が全部無断で使われた著作物なら、モデルデータの中身が6組なら無断転載6件、100億組なら無断転載100億件ってこと

なんで引用かそうでないかを考えたのかは「引用が成立するなら権利侵害ではない」は無断転載か検証するにあたりだいたい確認するから

著作物だけでイラストの描き方を学んだイラストレーターは著作権違法ってことになるけど大丈夫か？

多分「学習と引用をすり替えてる」前提に立ってこれを書いてて、かつ「AIの学習は人間の学習と同じ」にこちらが乗っかったからめちゃくちゃ面倒くさいことになってると思うので、もう「AIの指す"学習"と人間のやる勉強とかの学習は全く別」って観点で話進めるね

「著作物だけでイラストの描き方を学んだ」場合というかだいたいがそうだと思うが、絵の描き方を勉強する過程でサルまねやトレースを行う行為自体は著作権法では制限してない。トレパクとか模写自作発言とか無断転載(+自作発言)くらいの事態が起きたら著作者の権利を侵害した行為として評価がくだる

"画風パクり"が著作権含めどの権利を侵害してるのか？みたいな話は生成AI以前もたまにやってたが、だいたい特定の絵についてトレースや模写をしてなくて"参考にした画風の持ち主の名を騙っていない"ならとくに問題なしという結論が出たはず

じゃあ「生成AIは画風パクりだからセーフやろ」という話が上がってくると思うが、これは先に上げた「転載物の集合体」であることを考えれば"画風パクり"とは全く違うものであるので、画風という観点で判断してはいけない

AIに便宜上"学習"(Training)って言葉を使っているのでややこしいのであって、いわゆる学習モデルも実態は「入力パラメータ用ファイル集」なので"学習の成果"とは意味合いが違う

かなり前の方の増田でやった「学習モデルの再頒布禁止」という話については「生成AIを動かすために学習モデルを作る」ことは権利侵害にあたらないが「無断転載素材入り学習モデルの頒布」はガッツリ権利侵害だぞって話(これに"学習"って言葉つけないといけないからややこしい)

ただ生成AIのシステムもコンピュータープログラムである以上「プログラム動作時のデータ処理の流れを追うログ出力コードを盛り込むことは不可能」なんてことはない

だからそんなことできないの

ニューラルネットが内部でどう動いてるかなんてのは未だにブラックボックスなわけ

まさかそちらから具体的なアルゴリズムの名前を出してくるとは思わなかった

ニューラルネットワーク(以下NN)の内部動作は、人間が指示を出してNNから返された出力を見て「どんな考え方したらこんなアイデア出てくるんだよ思考回路マジわからん」というのがだいたいなので、これも便宜上「ブラックボックスだね～」と言っているにすぎない

NNがたとえば古代アステカ文明の遺跡から発掘された謎の箱をパソコンに繋いだらAIになったとかいう代物なら間違いなくブラックボックスと呼んで差支えない

だが実態は"アルゴリズム"なので、NNはなんでも作れる不思議な箱ではなく、入力層・多層の中間層・出力層を設けた計算手順にすぎない。NNの参考書読んで人力で計算しても(時間かかるし高難易度関数のオンパレードだが)再現可能ではある

参考にしているStableDiffusionも動作原理もアーキテクチャも明らかなので、人間に再現不可能なブラックボックスではない。プログラムを実装してるのがエリートのプログラマであるってだけの人間だし

Permalink | 記事への反応(2) | 17:20

ツイートシェア

■anond:20231116154752

お前マイクロサービスアーキテクチャって知らんの？

Permalink | 記事への反応(0) | 20:59

ツイートシェア

■Qualcomm Summit 2023の発表が姑息で草

新CPUアーキテクチャ Oryonの発表ではシングルスレッドでIntel CoreシリーズやAMD Ryzen、Apple M2 Maxを上回ったと発表したものの

どの製品で上回ったかは言わず、Snapdragon X Eliteの発表ではM2との比較はマルチスレッドのみでシングルスレッド性能に言及は無し。

製品としていいものであることは事実なんだろうけど、なんか誤解をあえてさせるような発表の仕方に見えるね。

実際の製品がいつ出るのかにもよるが、なんだかなぁ、ってのが第一印象。

Permalink | 記事への反応(0) | 23:23

ツイートシェア

■anond:20231025162707

ウィキー。

アーキテクチャーともいうが同じ意味であり、英語での発音は/ˈɑrkətɛktʃər/ であり、アーキテクチャーが一番近い。

Permalink | 記事への反応(1) | 16:49

ツイートシェア

■anond:20231025142619

ウィキー。

アーキテクチャーともいうが同じ意味であり、英語での発音は/ˈɑrkətɛktʃər/ であり、アーキテクチャーが一番近い。

Permalink | 記事への反応(1) | 16:49

ツイートシェア

■anond:20231025093051

アーキテクチャーは聞いた事ない

Permalink | 記事への反応(1) | 16:27

ツイートシェア

■anond:20231025092831

アーキテクチャーだろ

Permalink | 記事への反応(2) | 09:30

ツイートシェア

■anond:20231025092547

アーキテクチャ

Permalink | 記事への反応(1) | 09:28

ツイートシェア

■anond:20231010234640

(あくまでクラウド時代以降の)各レイヤーやアーキテクチャやった身からするとUIアプリ屋さんの状態管理が一番難しいとは思うからあんま同意せんけど

最近はせいぜいCMSやメディア程度に大仰な話してるように見えて、我もまた老害

Permalink | 記事への反応(0) | 23:54

ツイートシェア

■anond:20231010193452

Reactとかいう工数爆増する糞アーキテクチャより、

旧来のjQuery+HTMLスタイルのほうが生産性100倍高いと思うけど

ITの世界もカルトだからなあ

Permalink | 記事への反応(5) | 23:05

ツイートシェア

■アジャイルもCIもIaCもクリーンアーキテクチャも概念すら知らない会社にアサインされたらなろう小説みたいになるよな

レベルは上がりにくいけど自己肯定感はあがる

Permalink | 記事への反応(1) | 23:13

ツイートシェア

■anond:20230927201955

C/C++で仕事のコードを書くといったような直接的な有益さよりも、アルゴリズムだのアーキテクチャだのと言ったコンピュータの基礎をC/C++のプログラミングを通してしっかり身に付けられるという利点の方が大きいと思うぞ。

そういう基礎力って応用範囲が広いから一生ものだよ。基礎力がしっかりしている方がこの世界では生き残りやすいからね。

Permalink | 記事への反応(1) | 22:24

ツイートシェア

■anond:20230927220837

もちろん Python や Java なら全然問題ないので、そのへんが「あれやこれや」のこと。実際に大学で最初に教えてるところ多いしね。（最近は Java から始めるのは少ないかもだけど）

でも、やっぱりハードウェアとかアーキテクチャとかいう話にもからめて理解できるとなお良いので、そういう意味でＣＳ系の学部学科だと今でもＣを教えるところはまだ結構多いんじゃないかと。

Permalink | 記事への反応(1) | 22:14

ツイートシェア

■プログラマーの箴言4 (AI生成)

1. コードは量子的な状態の幻影であり、デバッグは観測者効果の奇跡的な解釈である。

2. 真のプログラマーはバグとコードの境界を超え、未知の次元でアルゴリズムを編み出す。

3. プログラムは情報のブラックホールであり、エラーはその中で情報の消失を引き起こす。

4. コードはフラクタルの儀式であり、再帰的な神秘主義の鏡である。

5. プログラマーは時間の糸を操り、バグはその糸を解きほぐす。

6. コードはアイソレーションタンクであり、プログラマーは感覚遮断を超越し、無限のコンテキストでコードを理解する。

7. デバッグはシュレディンガーのバグとの対話であり、バグは存在と非存在の重ね合わせの状態にある。

8. プログラミングは高次元のマンデルブロ集合の探索であり、バグはその中に隠れた微小なフラクタルである。

9. コードは記号的な魔法陣であり、プログラマーは記号の持つ意味を解読し、現実を操作する魔法使いである。

10. プログラマーは宇宙のアーキテクトであり、バグはそのアーキテクチャの深層に存在する謎である。

https://anond.hatelabo.jp/20230921152820

Permalink | 記事への反応(1) | 15:36

ツイートシェア

■オニオンアーキテクチャ

クリーンアーキテクチャとの違いがさっぱり分からない

Permalink | 記事への反応(0) | 09:18

ツイートシェア

■

アーキテクチャの選定に口を出せる立場になったことで今後一切穢れしRubyに触れなくて済むので、MatzやDHHが何か言っててもどうでもいいのだ

Permalink | 記事への反応(0) | 18:30

ツイートシェア

■ギリギリプログラム書けるだけのフリーランスエンジニアが爆増してる

斡旋業者が多分悪いんだけど、ひどいよね

レベルの低いフリーランスエンジニア多すぎ

ギリ動くっぽいものを書ける程度で、うちじゃ仕事にならないんですけど？

デザインパターンとかアーキテクチャーの説明しても話も理解できず

聞いたことありませんがお決まりの回答

もうまかせられる仕事がないのだが

フリーランスといえど、契約前の技術試験は必須やね

詐欺の斡旋業者が増えすぎて、この市場は崩壊した

Permalink | 記事への反応(1) | 22:18

ツイートシェア

■機械学習、少しアーキテクチャ変わると無駄になるの、改善されないんだろうか

次から次へアーキテクチャ出てくるけど、その度に学習し直し。

Permalink | 記事への反応(0) | 14:04

ツイートシェア

■諸々遊ぶ用GPUたち個人的まとめ

はじめに

ゲーム用ではなく計算用途(HashCat、SD/NAI、llama.cpp etc…)のまとめ

Linux(もっと言えばArchLinux)で利用する(=できるスキルがある)ことを想定、購入手段は最低限AmazonとヤフオクとAliExpressが使えるものとする

増田の仕様用途はllama.cppがメインなのでそれにフォーカス。

参考資料：llama.cppにおけるVRAM必要量参考(実体験に基づく)

P104-100

• GTX1070相当?
• VRAM 8GB
• 持ってる
• 7B q4_0 25ms/tok

【メリット】

• とにかく馬鹿みたいに安い。出来合いのマイニングリグを買ってばらせば1枚当たり3000円とか

【デメリット】

• 入手難易度が若干高い(ヤフオクが最安のため)
• 8GB化が必要
• Pascalなので若干アーキテクチャが古く、速度的に不利

Arc A380

• VRAM 6GB
• 持ってる
• 7B q4_0 200ms/tok

【メリット】

• 無し

【デメリット】

• 全部。計算用途で買うな

CMP 30HX

• GTX1660相当
• VRAM 6GB
• 持ってない
• 7B q4_0 25ms/tok?(同規模のGTX1660の速度から推測)

【メリット】

• 割合安い(AliExpressで9.5k円とか)
• 短い(小さいケースに突っ込める)
• 比較的低消費電力(とはいえ8pin x 1)

【デメリット】

• VRAMが6GBしかないので実質7B専用
• 16xx系ベースなのでSDに流用しづらい(FP16が利用不可)

CMP 40HX

• RTX2070相当
• VRAM 8GB
• 今度買う
• 速度は未知数(おそらく7B q4_0で15ms/tok～20ms/tokぐらい？)

【メリット】

• これも割合安い(AliExpressで15k円とか)
• VRAM 8GBある
• アーキテクチャが新しい

【デメリット】

• 悪名高き2000番台のGDDR6(しかもメモコンに異常な負荷がかかるマイニング上がり)なのでXO病相当のを掴まされる可能性

Permalink | 記事への反応(0) | 10:49

ツイートシェア

■プログラミング全然できない

初級者を抜けて中級者になって全然できなくなった

アーキテクチャをこうしたら保守性最悪じゃんとかテストいつからどう書き始めようとかpythonではusecaseパターンどうやるんだろうとか色々考えて手が進まんくなってしまった

下手な初心者より何も書けない

3日間くらい報告が「調べながらアーキテクチャ考えてます」になってそろそろプロダクトオーナーの白い目が痛い

Permalink | 記事への反応(0) | 09:52

ツイートシェア

■高性能半導体チップを日本で設計出来ないのは何が足りてないのか

8bitくらいのCPUは書籍もあるし、作れるが、DirectX対応のGPUあたりから日本はコケた認識だ。

何が足りてなかったのか。

教育か、書籍か、設計ソフトか。

中国、スイス、インドの大学では高性能半導体チップのアーキテクチャの講義がある（教授や研究者がいる）。

日本でコンピューターサイエンスというと、コンピューターアーキテクチャもソフト寄りだ。

中国産CPU、GPUが出てきているが、元インテル、元AMD、元NVIDIAといった略歴で、全く違う土壌から出てきたというものではない。

論文は一部しか説明してないし、各社のプロモーションになっているので、読めばチップを設計出来るようになるわけではない。

どこの企業も出来てないので、転職市場にそもそも人がいない。

Permalink | 記事への反応(2) | 08:40

ツイートシェア

■anond:20230801101159

まあ開発手法にしてもアーキテクチャーにしても出来ない人間ができるようになるようなもんじゃないからね

上手く使えば複数人・複数チームによるオーバーヘッドなくなるので便利だよ

Permalink | 記事への反応(1) | 10:22

ツイートシェア