タグ: #MiniCPM-o
Kubernetes・DevOps・MLOps を自分で動かして測った値で書くブログ · 1 件
全二重音声通話をWebSocketで中継する:ブラウザのマイクからGPUモデルまで
聞きながら話す全二重音声モデルをブラウザに組み込むにあたり、WebSocketで何をどのようにやり取りしたのかをまとめます。なぜブラウザをモデルサーバに直接接続せずバックエンドが中継するのか、音声を何Hz・何ビット・何秒のチャンクで送るのか、テキストフレームとバイナリフレームをどう分けたのか、一気に送りつけてくるクライアントをどう防ぐのか、サーバが1つの通話しか受け付けない場合に2つのWeb Podでどう排他制御を行うのかを、実測値とと
2026-10-08 · 19 分で読めます #웹소켓#전이중#음성 에이전트#MiniCPM-o#llama.cpp