xiaozhi-esp32 icon indicating copy to clipboard operation
xiaozhi-esp32 copied to clipboard

设备拍照图片上传的协议更新

Open xinnan-tech opened this issue 9 months ago • 20 comments

Is your feature request related to a problem?

有群友期望具有摄像能力的设备,拍照后,可将数据传输至服务器。希望虾哥团队新增一下后端接收图片的接口协议

Describe the solution you'd like.

他提出,前端设备拍照后,按此协议进行传输,是否可行?

{
"type": "img",
"base64":"base64编码"

Describe alternatives you've considered.

No response

Additional context.

No response

xinnan-tech avatar Mar 04 '25 15:03 xinnan-tech

图片是什么格式,有mime吗,设备上编码成jpeg大概是多少的体积,这个走mqtt还是websocket,可能需要拉个讨论群组针对这个进行设计。

78 avatar Mar 04 '25 15:03 78

好主意呢!同求

YILI245 avatar Mar 05 '25 16:03 YILI245

我也需要对图片或者视频进行上传分析的这种需求

jinbiaode avatar Mar 06 '25 08:03 jinbiaode

插眼

peterpanstechland avatar Mar 07 '25 00:03 peterpanstechland

同求

zhangdszq avatar Mar 07 '25 11:03 zhangdszq

同求!

CrisXie4 avatar Mar 07 '25 12:03 CrisXie4

好主意,让有摄像头的设备支持拍照AI识图。协议可以参考下那些识图大模型的接口设计,融入到现在协议中。

LanceCuby avatar Mar 08 '25 06:03 LanceCuby

同求!

666666g avatar Mar 08 '25 19:03 666666g

有群踢我

celesteStars avatar Mar 09 '25 05:03 celesteStars

Image我已经有了初步实现,但是被触发方式问题所困扰,有没有感兴趣的大佬来支援一下,vx:my46532

666666g avatar Mar 09 '25 05:03 666666g

Image我已经有了初步实现,但是被触发方式问题所困扰,有没有感兴趣的大佬来支援一下,vx:my46532

这周会先扩展IoT主动触发对话的协议。

78 avatar Mar 09 '25 09:03 78

Image我已经有了初步实现,但是被触发方式问题所困扰,有没有感兴趣的大佬来支援一下,vx:my46532

这周会先扩展IoT主动触发对话的协议。

目前已经适配所有支持视觉能力的llm,触发方式可以是iot也可以是拓展的协议 开源python地址 https://github.com/vonweller/PyxiaozhiVL

vonweller avatar Mar 09 '25 10:03 vonweller

单图片这么做可以,还有视频流场景,模型参考Qwen2.5-Omni

fliaping avatar Apr 03 '25 06:04 fliaping

单图片这么做可以,还有视频流场景,模型参考Qwen2.5-Omni

适合建立 WebRTC 通道。

78 avatar Apr 04 '25 07:04 78

单图片这么做可以,还有视频流场景,模型参考Qwen2.5-Omni

允许接入全模态模型这个想法非常的酷!

Gitsifu avatar Apr 11 '25 01:04 Gitsifu

好主意呢!同求 https://github.com/XuSenfeng/xiaozhi-alarm/tree/touch 这个有lichuang 的固件的,能弄个sparkbot的就更好了。我不会移植

dissipator avatar Apr 15 '25 06:04 dissipator

好主意呢!同求 https://github.com/XuSenfeng/xiaozhi-alarm/tree/touch 这个有lichuang 的固件的,能弄个sparkbot的就更好了。我不会移植

doing

tju-wang avatar Apr 16 '25 02:04 tju-wang

期待中

dissipator avatar Apr 21 '25 11:04 dissipator

插眼

Oreofilling avatar Apr 22 '25 02:04 Oreofilling