Groq
-
Groq推出闪电般快速的LLM引擎;ollama 新版发布
今日简讯 2024.7.9 – 市场调查机构 Gartner 今天发布调查报告，表示 64% 的受访客户不希望客服使用 AI。该调查还指出 53% 的客户如果发现某家公司客服使用 AI，会考虑转向竞争对手。 – 根据 PYMNTS 的报道，微软发言人表示：Azure OpenAI API服务在中国的提供方式没有变化，不会像 OpenAI 一样阻止中国访问…
-
Groq上线whisper-large-v3模型，140x speed factor，转录速度飞快
Groq最近推出了全新的Whisper Large-V3模型，支持多种语言的语音转录和翻译功能，并提供免费开放的体验。该模型转录速度极快，用户上传视频后仅需几秒钟即可完成转录，极大提高了工作效率。Whisper API还提供了便捷的功能集成和灵活的开发方式，为用户带来更高效和准确的语音处理方案。Groq的这一创新将吸引更多用户体验，为开发者提供更多可能性，进一步提升生活质量和工…
-
AI芯片创企Groq推出了Mixtral 8x7B API，采用自研AI芯片 推理速度超英伟达GPU十倍
近日，AI芯片创企Groq推出了Mixtral 8x7B API，据AI模型和托管提供商ArtificialAnalysis.ai的测评数据，该接口创下了新的大模型吞吐量记录，达到每秒430 Tokens。Groq还提供Llama2 7B模型访问，最高可实现每秒750 Tokens。据介绍，Groq平台基于其自研LPU（语言处理单元）芯片运行，该芯片在大模型推理任务上速度是英伟…
