声网发布Linux Server SDK 支持大模型Python与Go语言
2024-07-29 12:23:58爱云资讯1118
AIGC 和 大语言模型 LLM 的快速发展正推动人工智能领域的进步和创新,LLM 作为 AIGC 的核心模块,其发展尤为引人注目。随着技术的不断进步,大语言模型的能力也不断进化,一方面,训练数据量与算力的提升,AI 的生成内容更精准、更智能;另一方面,大模型的交互方式,也从文本升级为音频、视频的多模态,可以支持人与AI的语音对话等。
在多模态大模型的趋势下,RTC成为了人与AI交互中的重要一环,越来越多的企业与开发者纷纷探索在大语言模型或者AI应用场景中快速集成高效的音视频能力,构建AI陪聊、AI口语老师等一系列场景。
对此,声网推出Linux Server SDK,支持当下大模型编程最主流的两类语言Python与Go,企业可基于声网Linux SDK,快速接入大模型,上线具备RTC传输能力的AI应用场景,如AI语音助手、AI口语老师、虚拟恋人、多人语音游戏等。
声网Linux Server SDK以API的形式提供了一系列的功能,例如Linux Server SDK for Go可支持连接管理、信令发送、音频订阅与推送、事件回调通知等,其中信令传输能力不仅可应用于创建DataStream数据流,并发送信令,也能应用在大模型中发送数据流消息,例如将TTS、STT和LLM的结果发送给客户端。
此外,Linux Server SDK还提供了使用时序的教程,从建立连接、订阅远端用户的音频、获取远端用户的音频数据、推送音频数据、发送文字信令、断开连接等不同流程的详细描述,帮助开发者快速上手。
声网LinuxServer SDK客户集成实践图
凭借在RTC行业日积月累的深耕细作,声网Linux Server SDK在RTC的低延时、抗弱网、跨国传输、并发等方面具备优秀的性能。
·低延时与全球部署:声网自研的SD-RTN™实时传输网络覆盖了全球200多个国家与地区,音视频的全球端到端延迟平均达到200ms。声网还通过优化网络传输协议和算法,进一步降低音视频传输的延迟。
·智能路由与抗弱网:针对网络环境的波动,声网的智能路由技术能够根据用户的网络状况自动选择最优的网络路径,确保通话的稳定性和流畅性。声网的抗弱网传输与抗丢包算法,结合网络探测、抗丢包技术、自适应jitter buffer、网络拥塞控制策略等,为用户在各种网络环境下提供流畅的互动体验。
·30000+终端机型适配:由于不同的设备可能对于语音处理效果产生影响,声网的RTC SDK支持30000+终端机型适配,中低端机型覆盖广,帮助大模型与客户解决了多设备兼容性的后顾之忧。
·并发性能:客户集成声网Linux Server SDK后可支持上百路的音视频并发。
·支持多频道多路流:声网SDK支持用户同时加入多个频道,同一时间可以在多个频道中接收和发布音视频流。
目前声网Linux Server SDK为Alpha版。相关文章
- 声网对话式 AI 开发套件全面开源 开启人机交互新体验
- 声网对话式AI引擎:5大能力让你的Agent比ChatGPT更会说话
- 声网携手博通集成,RTE+AI赋能智能硬件创新
- 声网Conversational AI Agents获CSDN、大模型之家、赛迪网奖项
- 声网刘斌:RTE 演进助力 AI Agent 应用落地
- 声网 Conversational AI Agents 荣获 2024 人工智能年度杰出解决方案
- 助力开发者升级音视频体验,声网荣获HarmonyOS NEXT SDK星河奖
- 声网入选首届低空智联云领航者典型案例
- 声网 Native RTC SDK 4.5.0 上线 视频体验显著提升
- 声网:2024热门出海场景洞察,AI+RTE玩法动向解析
- 声网蝉联「福布斯中国出海全球化」领军品牌TOP30
- 声网 VoIP CallKit 上线 支持智能硬件与微信小程序实时通
- 声网钟声:分布式端边云结合将成为实时 AI 基础设施的
- 声网钟声:分布式端边云结合将成为实时 AI 基础设施的未来
- 声网荣膺金帆奖「年度优秀出海产品技术服务」
- 声网CEO赵斌:RTE将成为生成式AI时代AI Infra的关键部分