LLM资讯-电子产品世界网

产品中的大型语言模型：实用实地指南

用大型语言模型构建让我明白了一个明确的道理：最好的AI功能往往是隐形的。当它成功时，用户不会停下来想“那是人工智能”。他们只需点击一个按钮，快速得到回复，然后继续他们的任务。当它不奏效时，你会立刻注意到：转盘花的时间太长...

AI LLM 2025-12-09

加速FPGA上的LLM推理

实现FPGA加速LLM性能Speedster7t FPGA 在运行 Llama2 70B 参数模型时，与 GPU 解决方案相比表现如何？证据令人信服——Achronix Speedster7t FPGA 在处理大型语言模...

FPGA LLM 2025-12-04

集成人工智能聊天机器人的信息娱乐系统

Cerence声称其人工智能驱动的对话式语音助手技术已向全球80多家汽车制造商和一级供应商提供服务。Cerence xUI在今年慕尼黑IAA Mobility 2025展会上向WardsAuto展示了其AI语音辅助如何直...

Cerence AI 语音助手车载 AI 2025-12-03

让机器人更聪明：LLM 驱动的“智能体计算”走到哪一步了？

摘要过去几年，机器人技术突飞猛进，但“理解人类意图、在非结构化环境中稳健执行”的核心能力仍显不足。大型语言模型（LLM）被视为潜在的“语义大脑”，可将开放式自然语言映射为可执行的多步计划，并在执行中进行自检与纠错，从而提...

机器人 LLM 2025-11-11

6TOPS算力驱动30亿参数LLM，米尔RK3576部署端侧多模态多轮对话

当 GPT-4o 用毫秒级响应处理图文混合指令、Gemini-1.5-Pro 以百万 token 上下文 “消化” 长文档时，行业的目光正从云端算力竞赛转向一个更实际的命题：如何让智能 “落地”？—— 摆脱网络依赖、保护...

瑞芯微 RK3576 NPU（神经网络处理器） 2025-09-04

Qwen2-VL-3B模型在米尔瑞芯微RK3576开发板NPU多模态部署指导与评测

随着大语言模型（LLM）技术的快速迭代，从云端集中式部署到端侧分布式运行的趋势日益明显。端侧小型语言模型（SLM）凭借低延迟、高隐私性和离线可用的独特优势，正在智能设备、边缘计算等场景中展现出巨大潜力。瑞芯微 RK357...

瑞芯微 RK3576 2025-08-28

数据中心互连技术，第三种选择

着眼于下一代数据中心。...

数据中心 LLM 2025-05-12

LLM真的具有商业价值吗？

如果您曾经参加过企业性格或技能评估，您可能遇到过 Core Values Finder，这是一种衡量个人价值观的工具。它基于评估人类价值观的最可靠和有效的工具之一：肖像价值观问卷修订版（PVQ-RR）。科学问卷的目标是...

LLM Google 2025-05-06

在LLM方面Google取得成功，而Meta和OpenAI则跌跌撞撞

大型语言模型（LLM）的早期历史由 OpenAI 主导，在较小程度上由 Meta 主导。OpenAI 的早期 GPT 模型确立了 LLM 性能的前沿，而 Meta 则通过提供强...

LLM Google 2025-04-25

大语言模型通过图灵测试：GPT4.5比人还像人

美国加州大学圣地亚哥分校（UCSD）发布了一项研究成果，宣称首次提供了“人工智能系统能够通过标准三方图灵测试的实证证据”，证明大语言模型（LLM）通过了图灵测试。其中，GPT-4.5被判断为人类的比例高达73%，显著高于...

大模型图灵测试 2025-04-17

如何使用LLM建立行业KG（知识图）

1 KG与LLM完美结合大语言模型（LLM）在各种应用领域中已经取得了显着的成功，但是它常常无法捕捉和掌握最新的事实知识。而另一方面，知识图（Knowledge Graph，简称：KG）则拥有丰富的专家知识和事实知识...

202503 LLM 2025-04-09

GPT-4.5发布：比GPT-4提升10倍但"并非前沿模型"

2月28日消息，美国时间周四，OpenAI宣布推出GPT-4.5，这是其最新、最强大的大语言模型（LLM）的研究预览版，专为聊天应用设计。不过，这也是OpenAI迄今为止最昂贵的模型。不过，GPT-4.5仍然是一款传统的...

GPT-4.5 GPT-4 2025-02-28

Arm KleidiAI 助力提升 PyTorch 上 LLM 推理性能

作者：Arm 基础设施事业部软件工程师 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技领域发挥关键作用，许多企业已经开始将大语言模型 (LLM) 集成到云端和边缘侧的应用中。生成式 A...

Arm KleidiAI 2024-12-12

研华本地大型语言模型（LLM）边缘AI服务器AIR-520

工业物联网领域的全球供应商研华科技近日公布，其自主研发的“AIR-520本地大型语言模型（LLM）边缘AI服务器”荣获“第33届台湾精品奖”银奖！今年，研华有六款产品获得了中国台湾精品奖，其中两款获得了享有盛誉的银奖。这...

研华本地大型语言模型 2024-12-11

Arm计算平台加持，全新Llama 3.2 LLM实现AI 推理的全面加速和扩展

新闻重点：● 在Arm CPU上运行Meta最新Llama 3.2版本，其云端到边缘侧的性能均得到显著提升，这为未来AI工作负载提供了强大支持● Meta与Arm的合作加快了用例的创新速度，例如个性化的端侧推荐以...

Arm Llama 3.2 LLM 2024-09-27

传感器融合技术如何助力自主移动机器人导航再升级？

自主移动机器人(AMR)可帮助制造商提高生产效率、增强安全性并节省大量成本，因而在各行各业得到广泛应用。2022年全球AMR市场规模为86.5亿美元，预计2022年至2028年间的复合年增长率(CAGR)将达到18.3%...

自主移动机器人传感器 2024-09-09

用工具弥补AI短板，让AI答案更精准

ChatGPT和GPT-4等大型语言模型 (LLM) 已成为提高工作效率和更好地理解各种主题不可或缺的工具。从教育到软件开发，再到内容写作，LLM在众多领域崭露头角，它们在提炼和生成供人类使用的信息方...

语言模型 LLM 2024-07-18

Nvidia 征服了最新的 AI 测试

多年来，英伟达在许多机器学习基准测试中占据主导地位，现在它又多了两个档次。MLPerf，有时被称为“机器学习的奥林匹克”的人工智能基准测试套件，已经发布了一套新的训练测试，以帮助在竞争计算机系统之间进行更多更好的同类比较...

GPU 神经网络 2024-06-26

中国电信发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T

IT之家 6 月 19 日消息，中国电信人工智能研究院（TeleAI）和智源研究院联合发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T，该模型与百亿级的 52B 版本，千亿级的 102B 版本共同构...

LLM AI 2024-06-19

熟悉LLM的重要机制

1 前言在前一期里，介绍过大语言模型(LLM)幕后核心的注意力(Attention)机制。本期就来继续扩大，介绍大名鼎鼎的转换器(Transformer)模型。其中，要特别阐述：为什么当今主流LLM都采用(Decoder...

202406 LLM 2024-06-11

微软亚研院新作：让大模型一口气调用数百万个 API

近年来，人工智能发展迅速，尤其是像 ChatGPT 这样的基础大模型，在对话、上下文理解和代码生成等方面表现出色，能够为多种任务提供解决方案。但在特定领域任务上，由于专业数据的缺乏和可能的计算错误，它们的表现并不理想。同...

AI LLM 2024-03-28

AI神奇魅力的源点：相似度

1 前言在本专栏去年的文章《从隐空间认识CLIP 多模态模型》里，已经介绍过了：CLIP 的核心设计概念是，把各文句和图像映射到隐空间里的一个点( 以向量表示)。其针对每一个文句和图像都会提取其特征，并映射到这个隐空间里...

202403 LLM 2024-03-13

语言大模型的进化轨迹

ChatGPT 的发布是语言大模型（LLM）发展史的转折点，它让人们意识到 LLM 的潜力，并引发了 “AI 竞赛”，世界上主要人工智能实验室和初创公司都参与其中。在这之后，基于 LLM 的聊天机器人层出不穷。1语言模型...

人工智能 LLM 2024-02-29