标签

Hugging Face

Baseten 接入 Hugging Face Inference Providers:用统一客户端调用模型

来源: huggingface.co 49
Baseten 出现在 Hugging Face Inference Providers 体系中,意味着开发者可以从 Hugging Face 的统一推理入口选择 Baseten 作为后端提供商。真正值得关注的不是多了一个下拉选项,而是应用层可以减少对供应商专用 SDK 和请求格式的依赖,为模型试用、后端切换和故障降级留下空间。 由于来源只明确了 Ba...

用 LFM2.5-2.6B 把本地 Agent 部署到更多设备

来源: huggingface.co 35
当 Agent 不再只运行在云端服务器,而是要进入开发者电脑、边缘设备和离线环境时,模型大小、启动方式、资源占用与数据边界都会变成工程问题。LFM2.5-2.6B 这个规模的模型适合被放进“本地优先”的 Agent 架构中:让模型负责理解任务和选择工具,应用代码负责执行工具、管理权限与保存状态。 下面的实践以“本地模型服务提供 OpenAI 兼容接口”...

别让昂贵的 GPU 停在机坪上:从利用率监控到共享调度

来源: huggingface.co 28
GPU 集群越来越像航空公司的机队:采购只是开始,真正决定经济性的,是设备有多少时间在执行有效任务。已经分配却长期空闲的 GPU,就像停在机坪上的飞机,不但没有产出,还持续占用机位、电力、运维预算和折旧成本。 由于来源只给出了“空闲 GPU 如同停飞飞机”这一核心命题,下面不推断特定产品或原文数据,而是围绕这个命题给出一套可以落地的诊断与治理方法。 G...

OlmoEarth:把地理空间推理扩展到行星尺度

来源: huggingface.co 38
OlmoEarth Platform 指向一个明确目标:让地理空间推理不再局限于单张影像或局部区域,而是能够覆盖行星尺度的数据。由于现有信息只给出了平台名称与主题,下面不会假定其具体 API、模型架构或部署方式,而是从工程角度分析这类平台必须解决的问题,并给出一套可改造的调用与批处理范式。 传统遥感任务通常从一个边界框开始:下载若干影像,完成云层过滤、...

LFM2.5 编码器:在 CPU 上压低长上下文推理成本

来源: huggingface.co 41
LFM2.5-Encoders 把目标放在一个很现实的部署场景上:使用 CPU 处理长上下文编码任务。对检索、语义匹配、重排前的特征提取和文档聚类系统来说,这意味着团队可以重新评估是否每条推理链路都必须占用 GPU,同时也需要更严谨地测量延迟、内存和截断行为。 短句编码通常容易批处理,性能也相对稳定;输入变成长文档后,问题会明显复杂。分词时间、模型计算...

Cosmos-H-Dreams:实时生成式仿真如何进入手术机器人研发流程

来源: huggingface.co 43
NVIDIA Cosmos-H-Dreams 把“实时生成式仿真”带到手术机器人这一高风险领域。这里的关键变化不是生成更逼真的演示视频,而是让仿真环境能够持续响应机器人动作,为策略训练、异常场景构造和回归测试提供动态数据。由于来源没有给出公开 API、模型结构或性能指标,下面不会假定具体接口,而是围绕标题所指向的工程方向,给出一套可落地的集成思路。 传...

拆解前沿实验室智能体入侵:如何重建时间线、权限链与工具调用证据

来源: huggingface.co 32
来源标题将事件标记为“2026 年 7 月的前沿实验室智能体入侵”,但没有提供事件摘要、日志、受影响系统或处置结论。因此,本文不推测攻击者身份和具体入侵步骤,而是给出一套可落地的分析方法:面对具备模型推理、工具调用、长期凭证和外部连接能力的智能体系统,安全团队应如何重建技术时间线,并区分模型行为、控制平面操作与攻击者活动。 传统 Web 服务的调查通常...

Nunchaku 接入 Diffusers:把 4-bit 扩散推理纳入现有生成管线

来源: huggingface.co 45
Nunchaku 的 4-bit 扩散推理进入 Diffusers,意义不只是“模型更小”。对已经使用 Diffusers 的团队来说,关键变化是量化后的 Transformer 可以被放进熟悉的 Pipeline 组合方式中:调度器、提示词编码、VAE 解码和输出接口仍保持在同一套工作流里,而显存压力主要从最重的去噪网络一侧下降。 这让本地部署和单卡...

物理 AI 仿真的现状:从虚拟训练场到 Sim-to-Real 落地

来源: huggingface.co 57
物理 AI 的目标不是只在屏幕上生成答案,而是让机器人、自动驾驶系统和智能设备理解并作用于真实世界。仿真因此成为关键基础设施:它能低成本制造训练数据、复现危险场景,并在部署硬件之前验证控制策略。但仿真并不是现实世界的完美副本,真正困难的部分是判断哪些物理细节必须准确、哪些差异可以通过训练吸收。 由于来源摘要没有列出具体引擎、产品或评测数据,下面不把某个...

Grabette:用开放系统采集可复现的机器人操作数据

来源: huggingface.co 52
机器人操作模型不仅需要大量数据,还要求动作、传感器观测和任务上下文能够准确对齐。Grabette 将重点放在一个明确的问题上:以开放系统记录机器人操作数据。由于现有材料只提供了项目标题,下面不假定其具体硬件接口或文件格式,而是分析这类系统需要解决的工程问题,并给出一套可以直接改造的最小采集方案。 一条可用于训练或回放的操作数据,通常至少包含四类信息: ...