おぼえておきたい

記憶力がないのでおぼえておきたいことを書いています。

2023年に買ったもの

2023年もウクライナ戦争は終わらず、イスラエル-パレスチナも開戦してしまったので昨年に引き続き戦争の年でした。一方でCOVIDの影響が薄まり、復興の年でもありました。

個人的には今年はAIの年であり、「知能とは何か」と問い続けた1年でした。

ベストバイ: RTX4090 (Gainward RTX4090 Phantom)

今年のベストバイは悩む余地なく4090。昨年RTX3080をベストのひとつに挙げておいてとは思いますが、これ以外にあり得ません(昨年RTX3080に対して「数年は戦える」とか言いましたが嘘でした)。

RTX4090がもたらしたもの

リアルタイムでAIの進化を体験することができました。

そもそも購入のきっかけは高速にStable Diffusionの画像生成をしたいことでした。2023/01に約¥265,000で購入しました。

2月にFlexgenが発表され、ローカルLLMという夢を見ることができるようになりました。ローカルで動くAIと会話する奇妙な体験をこの時点でできたことは代え難いことでした。

それからわずか2週間ほどでMetaからLLaMAがリリースされ、そこからローカルLLMの世界は急激に進んでいくことになります。わずか半年程度の間に信じられないほど多くのモデルが生まれ、GPTQやllama.cppなどの量子化・推論環境が開発されていきました。もはや年初とは別の世界のようです。

この日々世界が塗り替わる驚くべき世界をリアルタイムで試し体験できたのは、ひとえにRTX4090あってこそでした。VRAMが弱すぎるのでこの用途ではRTX4080はお話にならない。私はこの体験に値段はつけられないです。

(Stable Diffusionはfp16の論理性能に比例する傾向が強く、LLMはメモリ帯域に比例する傾向が強い、と理解しています。ゲームとは異なりCPUボトルネックが発生しないため、ほぼGPUの性能通りになります。RTX4080との性能差はどちらであっても30-50%ほどある上、VRAM不足はエラーなので代替できません。もちろん買えるならRTX6000 AdaやH100が圧倒的です。)

後述のROG AllyによってゲーミングPCとしての役割がほぼなくなってしまいましたが、それでもなおAI実行環境として替え難く、稼働率は高いままです。

入手性

2023/10ころから、RTX4090は品薄と価格高騰が起きています。中国のAI開発を脅威と見たUSの対中輸出規制により中国内で今後RTX4090が入手しづらくなることから、需給バランスがおかしくなってしまったらしいです。

私が買った当時はまだやや高く品薄気味でしたが、それでも普通に買えました。今年自分が体験した時間の面白さを考えれば本当に良い時に買ったと満足しています。

おまけ

LLMなどを早い段階で試していくために必然的にLinuxPythonについて勉強せざるを得なくなり、何も知らないど素人から日曜プログラマー程度までランクアップしました。GPUに大枚叩いてしまったプレッシャーが駆り立てたのかもしれません。

 

ten-meteor.hatenablog.com

次点: ASUS ROG Ally

これも非常に良い買い物でした。

Allyがもたらしたもの

デスクトップPCでゲームをすることがほとんどなくなりました。

私はほぼRPGしかやらないのでFPSのようなシビアな操作を要求することがなく、Allyで99%のゲームは快適にプレイできてしまいます。音も良く、電力も食わず、非常に良いです。

Steam Deckも持っており、あちらの方が操作性や電池持ちなど良い点も多いですが、Windowsゆえの利用可能タイトルの多さによってAllyを使っていることが多かったです(特に原神や崩壊スターレイルはSteam Deck不可)。

ランク外: Apple iPhone 15 Pro Max

価格に見合う素晴らしい完成度のスマートフォンだと思っていますし、ほとんど不満はありません。強化されたメインカメラや望遠性能も期待に沿うものでした。

しかし、生活は変わらないし、新たな体験ができるわけでもないのでこれまでの延長線上に過ぎません。