Llama 3.2 LLM技术资讯-电子产品世界网

中国开源AI模型崛起，Llama彻底出局

AGI虽在实际应用中仍存局限性，但曙光现已成为今年行业的共识。在一系列技术任务中，从ChatGPT到Gemini，许多世界领先的AI模型正超越人类基准线：据斯坦福大学《2025年AI指数报告》，AI已在7项测试中超越人类...

开源 AI 2025-12-30

产品中的大型语言模型：实用实地指南

用大型语言模型构建让我明白了一个明确的道理：最好的AI功能往往是隐形的。当它成功时，用户不会停下来想“那是人工智能”。他们只需点击一个按钮，快速得到回复，然后继续他们的任务。当它不奏效时，你会立刻注意到：转盘花的时间太长...

AI LLM 2025-12-09

加速FPGA上的LLM推理

实现FPGA加速LLM性能Speedster7t FPGA 在运行 Llama2 70B 参数模型时，与 GPU 解决方案相比表现如何？证据令人信服——Achronix Speedster7t FPGA 在处理大型语言模...

FPGA LLM 2025-12-04

集成人工智能聊天机器人的信息娱乐系统

Cerence声称其人工智能驱动的对话式语音助手技术已向全球80多家汽车制造商和一级供应商提供服务。Cerence xUI在今年慕尼黑IAA Mobility 2025展会上向WardsAuto展示了其AI语音辅助如何直...

Cerence AI 语音助手车载 AI 2025-12-03

让机器人更聪明：LLM 驱动的“智能体计算”走到哪一步了？

摘要过去几年，机器人技术突飞猛进，但“理解人类意图、在非结构化环境中稳健执行”的核心能力仍显不足。大型语言模型（LLM）被视为潜在的“语义大脑”，可将开放式自然语言映射为可执行的多步计划，并在执行中进行自检与纠错，从而提...

机器人 LLM 2025-11-11

6TOPS算力驱动30亿参数LLM，米尔RK3576部署端侧多模态多轮对话

当 GPT-4o 用毫秒级响应处理图文混合指令、Gemini-1.5-Pro 以百万 token 上下文 “消化” 长文档时，行业的目光正从云端算力竞赛转向一个更实际的命题：如何让智能 “落地”？—— 摆脱网络依赖、保护...

瑞芯微 RK3576 NPU（神经网络处理器） 2025-09-04

Qwen2-VL-3B模型在米尔瑞芯微RK3576开发板NPU多模态部署指导与评测

随着大语言模型（LLM）技术的快速迭代，从云端集中式部署到端侧分布式运行的趋势日益明显。端侧小型语言模型（SLM）凭借低延迟、高隐私性和离线可用的独特优势，正在智能设备、边缘计算等场景中展现出巨大潜力。瑞芯微 RK357...

瑞芯微 RK3576 2025-08-28

数据中心互连技术，第三种选择

着眼于下一代数据中心。...

数据中心 LLM 2025-05-12

LLM真的具有商业价值吗？

如果您曾经参加过企业性格或技能评估，您可能遇到过 Core Values Finder，这是一种衡量个人价值观的工具。它基于评估人类价值观的最可靠和有效的工具之一：肖像价值观问卷修订版（PVQ-RR）。科学问卷的目标是...

LLM Google 2025-05-06

在LLM方面Google取得成功，而Meta和OpenAI则跌跌撞撞

大型语言模型（LLM）的早期历史由 OpenAI 主导，在较小程度上由 Meta 主导。OpenAI 的早期 GPT 模型确立了 LLM 性能的前沿，而 Meta 则通过提供强...

LLM Google 2025-04-25

大语言模型通过图灵测试：GPT4.5比人还像人

美国加州大学圣地亚哥分校（UCSD）发布了一项研究成果，宣称首次提供了“人工智能系统能够通过标准三方图灵测试的实证证据”，证明大语言模型（LLM）通过了图灵测试。其中，GPT-4.5被判断为人类的比例高达73%，显著高于...

大模型图灵测试 2025-04-17

如何使用LLM建立行业KG（知识图）

1 KG与LLM完美结合大语言模型（LLM）在各种应用领域中已经取得了显着的成功，但是它常常无法捕捉和掌握最新的事实知识。而另一方面，知识图（Knowledge Graph，简称：KG）则拥有丰富的专家知识和事实知识...

202503 LLM 2025-04-09

Meta推出开源AI模型Llama 4

由于DeepSeek等竞品引发压力，Meta推出新一代AI模型集合Llama 4。目前，Llama 4拥有Scout和Maverick两个版本，均以开源形式发布。Meta在声明中表示，Llama 4是一个多模态AI系统，...

Meta 开源 2025-04-08

Meta 高管澄清：新 AI 模型 Llama 4 训练“作弊”传言不属实

4 月 8 日消息，Meta 公司的一位高管出面澄清了一则关于公司新 AI 模型的不实传言。该传言声称 Meta 在其新推出的 Llama 4 Maverick 和 Llama 4 Scout 模型上存在不当行为，即通过...

Meta AI 2025-04-08

GPT-4.5发布：比GPT-4提升10倍但"并非前沿模型"

2月28日消息，美国时间周四，OpenAI宣布推出GPT-4.5，这是其最新、最强大的大语言模型（LLM）的研究预览版，专为聊天应用设计。不过，这也是OpenAI迄今为止最昂贵的模型。不过，GPT-4.5仍然是一款传统的...

GPT-4.5 GPT-4 2025-02-28

Arm KleidiAI 助力提升 PyTorch 上 LLM 推理性能

作者：Arm 基础设施事业部软件工程师 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技领域发挥关键作用，许多企业已经开始将大语言模型 (LLM) 集成到云端和边缘侧的应用中。生成式 A...

Arm KleidiAI 2024-12-12

研华本地大型语言模型（LLM）边缘AI服务器AIR-520

工业物联网领域的全球供应商研华科技近日公布，其自主研发的“AIR-520本地大型语言模型（LLM）边缘AI服务器”荣获“第33届台湾精品奖”银奖！今年，研华有六款产品获得了中国台湾精品奖，其中两款获得了享有盛誉的银奖。这...

研华本地大型语言模型 2024-12-11

Arm计算平台加持，全新Llama 3.2 LLM实现AI 推理的全面加速和扩展

新闻重点：● 在Arm CPU上运行Meta最新Llama 3.2版本，其云端到边缘侧的性能均得到显著提升，这为未来AI工作负载提供了强大支持● Meta与Arm的合作加快了用例的创新速度，例如个性化的端侧推荐以...

Arm Llama 3.2 LLM 2024-09-27

传感器融合技术如何助力自主移动机器人导航再升级？

自主移动机器人(AMR)可帮助制造商提高生产效率、增强安全性并节省大量成本，因而在各行各业得到广泛应用。2022年全球AMR市场规模为86.5亿美元，预计2022年至2028年间的复合年增长率(CAGR)将达到18.3%...

自主移动机器人传感器 2024-09-09

Meta训练Llama 3遭遇频繁故障

7 月 28 日消息，Meta 发布的一份研究报告显示，其用于训练 4050 亿参数模型 Llama 3 的 16384 个英伟达 H100 显卡集群在 54 天内出现了 419 次意外故障，平均每三小时就有一次...

Meta Llama 3 2024-07-29

英特尔AI解决方案为最新Meta Llama 3.1模型提供加速

为了推动“让AI无处不在”的愿景，英特尔在打造AI软件生态方面持续投入，并为行业内一系列全新AI模型提供针对英特尔AI硬件的软件优化。今日，英特尔宣布公司横跨数据中心、边缘以及客户端AI产品已面向Meta最新推出的大语言...

英特尔 AI解决方案 2024-07-25

用工具弥补AI短板，让AI答案更精准

ChatGPT和GPT-4等大型语言模型 (LLM) 已成为提高工作效率和更好地理解各种主题不可或缺的工具。从教育到软件开发，再到内容写作，LLM在众多领域崭露头角，它们在提炼和生成供人类使用的信息方...

语言模型 LLM 2024-07-18

Nvidia 征服了最新的 AI 测试

多年来，英伟达在许多机器学习基准测试中占据主导地位，现在它又多了两个档次。MLPerf，有时被称为“机器学习的奥林匹克”的人工智能基准测试套件，已经发布了一套新的训练测试，以帮助在竞争计算机系统之间进行更多更好的同类比较...

GPU 神经网络 2024-06-26

中国电信发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T

IT之家 6 月 19 日消息，中国电信人工智能研究院（TeleAI）和智源研究院联合发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T，该模型与百亿级的 52B 版本，千亿级的 102B 版本共同构...

LLM AI 2024-06-19

熟悉LLM的重要机制

1 前言在前一期里，介绍过大语言模型(LLM)幕后核心的注意力(Attention)机制。本期就来继续扩大，介绍大名鼎鼎的转换器(Transformer)模型。其中，要特别阐述：为什么当今主流LLM都采用(Decoder...

202406 LLM 2024-06-11

爱芯通元NPU完成Llama 3和Phi-3大模型适配

人工智能芯片研发及基础算力平台公司爱芯元智宣布，近日，Meta、Microsoft相继发布具有里程碑意义的Llama 3系列和Phi-3系列模型。为了进一步给开发者提供更多尝鲜，爱芯元智的NPU工具链团队迅速响应，已基于...

爱芯通元 NPU 2024-04-28

第一时间适配！英特尔锐炫GPU在运行Llama 3时展现卓越性能

在Meta发布Llama 3大语言模型的第一时间，英特尔即优化并验证了80亿和700亿参数的Llama 3模型能够在英特尔AI产品组合上运行。在客户端领域，英特尔锐炫™显卡的强大性能让开发者能够轻松在本地运行Llama ...

英特尔锐炫 2024-04-24

英特尔披露至强6处理器针对Meta Llama 3模型的推理性能

近日，Meta重磅推出其80亿和700亿参数的Meta Llama 3开源大模型。该模型引入了改进推理等新功能和更多的模型尺寸，并采用全新标记器（Tokenizer），旨在提升编码语言效率并提高模型性能。在模型发布的第一...

英特尔至强6 2024-04-21

微软亚研院新作：让大模型一口气调用数百万个 API

近年来，人工智能发展迅速，尤其是像 ChatGPT 这样的基础大模型，在对话、上下文理解和代码生成等方面表现出色，能够为多种任务提供解决方案。但在特定领域任务上，由于专业数据的缺乏和可能的计算错误，它们的表现并不理想。同...

AI LLM 2024-03-28

AI神奇魅力的源点：相似度

1 前言在本专栏去年的文章《从隐空间认识CLIP 多模态模型》里，已经介绍过了：CLIP 的核心设计概念是，把各文句和图像映射到隐空间里的一个点( 以向量表示)。其针对每一个文句和图像都会提取其特征，并映射到这个隐空间里...

202403 LLM 2024-03-13

语言大模型的进化轨迹

ChatGPT 的发布是语言大模型（LLM）发展史的转折点，它让人们意识到 LLM 的潜力，并引发了 “AI 竞赛”，世界上主要人工智能实验室和初创公司都参与其中。在这之后，基于 LLM 的聊天机器人层出不穷。1语言模型...

人工智能 LLM 2024-02-29

IBM企业云Watsonx上线Meta大语言模型Llama 2

8月10日消息，当地时间周三IBM表示，计划在旗下的企业级人工智能和数据平台Watsonx上提供Meta开发的大语言模型Llama 2。IBM的Watsonx平台能帮助企业将人工智能整合到工作流程中。这一最新举措为Met...

IBM 企业云 2023-08-10

高通携手Meta利用Llama 2赋能终端侧AI应用

· 高通计划从2024年起，在旗舰智能手机和PC上支持基于Llama 2的AI部署，赋能开发者使用骁龙平台的AI能力，推出激动人心的全新生成式AI应...

高通 Meta 2023-07-19

Meta参战AI竞赛宣布推出语言模型LLaMA

全球科技巨头纷纷加入人工智能（AI）竞赛，脸书母公司Meta今天推出语言模型LLaMA，表示将能协助研究人员找到修复聊天机器人潜在危险的方法。聊天机器人ChatGPT的核心技术就是来自于语言模型。综合法新与路透社报导，M...

Meta AI竞赛 2023-02-27

Llama 3.2 LLM