Skip to content

使用 MiniCPM-o Realtime 前台

qwen-audio-agent 可以通过面壁智能公开的 Realtime 协议连接 MiniCPM-o 4.5。服务可以是用户自行部署的 本地实例,也可以是兼容该协议的云端实例;Gateway 不安装模型或管理推理进程。

该接入面向官方 Audio Full-Duplex WebSocket 协议:

text
ws://127.0.0.1:8006/v1/realtime?mode=audio

服务就绪后配置 Provider 和地址:

bash
QWEN_AUDIO_REALTIME_PROVIDER=minicpm-o
MINICPM_O_REALTIME_URL=ws://127.0.0.1:8006/v1/realtime?mode=audio

默认地址假设上游 Gateway 以 --http 方式监听本机回环地址;连接面壁智能云端或其他 TLS 部署时,改为对应的 wss:// 地址。服务要求 Bearer 认证时,可用 MINICPM_O_AUTH_TOKEN 配置令牌。桌面版在“语音前台 → 面壁智能”中填写相同配置, 模型固定显示为 MiniCPM-o 4.5

Adapter 会把客户端的 16-bit PCM 转换成协议要求的 16 kHz 单声道 float32 输入,将 24 kHz 单声道 float32 输出转换回 16-bit PCM,并把 MiniCPM-o 的 Session 和响应事件映射到统一的 Realtime Runtime。

实时视觉

要启用协商后的 WebUI 视觉帧流,需要使用 MiniCPM-o 的视频全双工端点:

bash
MINICPM_O_REALTIME_URL=ws://127.0.0.1:8006/v1/realtime?mode=video

公开 GCP 仍使用统一的 input_image_buffer.append。MiniCPM-o Adapter 只保留最近一张 JPEG 帧,并在下一批一秒音频的 input.append 中作为 video_frames 发送。使用默认 mode=audio 地址时,Gateway 不协商 input.image_buffer,客户端不会展示不可用的 摄像头控制。

MiniCPM-o 当前公开的 Realtime 协议没有定义对话项、结构化 Function Call、客户端主动 触发回复或输入转写事件。因此该接入聚焦实时语音对话;文字输入、历史转写恢复、 主动播报、记忆写入和后台 Agent 工具在此 Provider 下暂不可用。客户端能够获得的内容 仍会保留在本地 UI 聊天记录中。