力こそパワーな筋肉駆動の手回し式AIマシン「CrankGPT」が登場、負荷の高いAI処理ほど多くの筋力を求められる仕様

ChatGPTなどの主流のAIサービスは大規模な電力を消費するAIデータセンターで処理が実行されており、ローカルAIも「消費電力の大きなGPUをゴリゴリ回す」というイメージがあります。そんな時流に反して登場したAIデバイスが「CrankGPT」で、手回し式発電によって電力を賄いつつ音声会話AIをローカル実行することができます。

CrankGPT - Local Human-powered AI
https://crankgpt.com/

CrankGPT — fully offline, human-powered local AI | CrankGPT
https://squeezlabs.github.io/handcrank/

CrankGPTの見た目はこんな感じ。本体の側面に手回しクランクが付いており、クランクを回して発電することでAI推論に必要に電力を発生させる仕組みです。

CrankGPTはリアルタイムの音声対話AIシステムとして動作します。以下の動画では実際にクランクをグルグル回してAIと会話する様子を確認できます。

CrankGPT - YouTube

CrankGPTの内部には手回し発電機とRaspberry Pi 5が収まっています。Raspberry Pi 5のRAM容量は8GBで、冷却ファンとオーディオ出力拡張ボードを装着しています。

Raspberry Pi 5には起動速度を重視したLinuxディストリビューション「DietPi」がインストールされており、音声認識モデル(ASR)・音声合成モデル(TTS)・大規模言語モデル(LLM)を組み合わせた独自開発の音声会話エージェントシステムが組み込まれています。

瞬間的な電流量増加にも耐えられるように電力供給ボードも独自設計のものを採用。要求電力に応じてクランクの重さが変化し、「LLM推論と音声合成を同時に実行する」といった高負荷な処理を体で実感できるようになっています。

システムの起動には「Raspberry Pi 5のブート」に10～15秒、「Linuxのユーザー空間の準備」に3秒、「音声会話エージェントの起動」に10～15秒かかります。音声会話の遅延は実行するLLMによって変化し、Gemma 3 1Bの場合は約2.9秒、LF2.5-350Mなら約0.8秒の遅延で会話できるそうです。