NVIDIAがローカルでGPT-3レベルを動かせるコンピュータを発表

https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips

パラメータ数2000億、２台をLinkさせて4050億パラメータの大規模言語モデルを手元のマシンで動かせる3000ドルのコンピュータGB10を2025年5月から提供すると発表しました。GPT-3が1750億、LLAMA3が700億ですから、このレベルなら個人でも動かせるようになるということです。GPT-4レベルは兆のオーダーらしいのでさすがに無理ですが、画期的じゃないですか？昔、大型のコンピュータしかない時代にパソコンが登場したときのような興奮がありますよね。高いですが、買うしかないでしょう。