ElatoAI:基于OpenAI实时API和ESP32的AI语音交互项目,让智能设备轻松实现全球实时对话。
实现超过10分钟的不间断实时对话;使用Opus音频编码,音频质量高且带宽占用低;全球低延迟边缘计算支持,确保流畅交互
实现超过10分钟的不间断实时对话;使用Opus音频编码,音频质量高且带宽占用低;全球低延迟边缘计算支持,确保流畅交互
一键拉取Docker镜像,快速上手;每日自动更新,确保容器始终处于最新状态;安全隔离运行,保护用户数据隐私
Kolosal AI:开源轻量级的LLM离线运行工具,让大语言模型在本地设备上轻松运行。
仅需约20MB的编译体积,适合边缘设备;支持AVX2 CPU、AMD和NVIDIA GPU,硬件适配广泛;支持多种流行模型,如Mistral、LLaMA、Qwen等
仅需约20MB的编译体积,适合边缘设备;支持AVX2 CPU、AMD和NVIDIA GPU,硬件适配广泛;支持多种流行模型,如Mistral、LLaMA、Qwen等