AI手机重大突破?!湖南这家公司把视觉大模型塞进了端侧
文 | 智能相对论
作者 | 陈泊丞
在DeepSeek爆火之后,各行各业对AI大模型的应用与部署明显加快。在这个过程中,端侧AI模型的价值逐步被发掘,凭借低时延、实时处理、安全可靠以及成本优化等特性备受市场重视,成为业内探索AI大模型应用的一个重要方向。
以智能手机行业为例,苹果、小米、OPPO等终端厂商都在积极探索端侧AI模型在智能终端上的部署和应用,以提升智能终端的体验。但是,由于移动设备的计算能力和存储空间有限,如何在保证模型性能的同时减小模型体积,并成功部署在移动端是一个关键问题。
直到今天,这一问题正在被湖南的一家科技公司破解。湖南汇视威发布基于国产算力预训练的视觉基座大模型V1端侧版本,成功满足了视觉模型在移动端(如手机、电脑等)上的部署和推理需求,实现轻量级文生图功能体验。
继DeepSeek之后,又一国产模型迎来新突破,并很有可能在端侧革新AI模型的应用范式。这在技术层面和商业层面都有着特别的意义。
️端侧视觉模型照进现实,补上云端AI的短板
即使在DeepSeek火爆的基础上,厂商们依然致力于探索和优化端侧AI模型的部署与应用。通过湖南汇视威的视觉基座大模型V1端侧版本可见,端侧模型在实际应用中所展现出来的优势正好弥补上了云端AI的短板。
️一、摆脱云端算力限制,具备更低的时延和更强的场景适配性。端侧AI模型可以直接在用户的移动端实现本地运行,无须依赖云端传输。湖南汇视威的视觉基座大模型V1端侧版本不仅能显著降低时延,快速响应用户的创作需求,还支持离线场景使用,哪怕是在偏远地区或是网络不稳定场景也能保障体验,让用户随时随地体验轻量级的视觉文生图手机应用。
基于本地化运行,端侧模型对比云端方案更稳定可靠。由此,B端的企业和开发者就可以基于湖南汇视威的视觉基座大模型打造自己的专属AI产品,如虚拟试衣等,不仅可以基于端侧部署提供更优质的体验,还能显著降低视觉大模型边端推理成本,从而实现更优的商业回馈。
️二、隐私安全保护进阶,真正实现“数据不出域”。基于本地化运行模式,端侧AI模型直接处理本地数据,避免将生成的图片数据共享在云端,提升了用户数据的隐私保护性,也将显著降低数据泄漏风险。
️三、推动边缘智能普及,加速AI普惠。湖南汇视威的视觉基座大模型V1端侧版本通过实现轻量级的视觉文生图手机应用,有利于进一步提升手机端AI的用户渗透率和场景渗透率,并在企业和开发者的二次开发下让越来越多的用户用上安全可靠的、低成本文生图功能。
随着这种端侧部署模式推广开来,更多的边缘智能如电脑、可穿戴终端等都将迎来新一轮的产品功能变革,释放更多的AI红利,让更多的人接触到AI,享受AI。
️又一次国产重大突破,湖南把视觉大模型塞进了端侧
虽说端侧模型方案被视为是接下来智能进阶、实现边缘智能的关键,但是很长一段时间内,云端AI方案占据主流。究其原因,在于AI模型的端侧部署考虑到模型性能、模型参数以及移动终端的算力局限、本地存储局限等一系列问题,在实际落地上存在较为严苛的要求。
湖南汇视威基于国产算力预训练的视觉基座大模型V1端侧版本是国内相关领域的首个突破项目,尤其是在国产算力和端侧AI领域。面向特定领域从0到1的技术攻关,背后的难度可想而知,而具体聚焦国产算力、模型蒸馏以及性能保障三个方面,我们或许更能体会到这一项目落地的严苛与高标准。
这或将成为国产端侧模型进一步扩大发展的关键起点,湖南汇视威基于国产算力预训练的视觉基座大模型V1端侧版本为行业带来了三个亮点。
️一、国产路径。本次项目基于中科曙光国产算力在4千多万张图片上从0到1搭建视觉基座大模型并完成预训练。这也就意味着,其底层计算资源已经开始倾向于国产化路径,打破了此前AI领域高度依赖国外算力的单一局面,不只是端侧模型的部署,更为国产模型的发展提供了更多的可能性。
️二、极限蒸馏。此前,视觉大模型多采用云端方案,能真正实现端侧部署的在国内还是首次。在这方面,湖南汇视威设计了跨模型结构极限蒸馏技术,将基座大模型和 8.1B大模型进行混合蒸馏,保证在最小性能损失下,得到了0.4B的轻量化模型,让视觉模型具备了在端侧部署的可能,填补了国产端侧视觉模型的技术空白。
️三、性能在线。尽管是0.4B的端侧模型,但是在相关的文生图测试上依旧可以媲美8.1B的通用大模型。据了解,湖南汇视威的视觉基座大模型V1端侧版本在移动端文生图体验处于国内第一梯队,在安卓和IOS端均可以做到秒级生成一张图片,成功突破移动端生成高分辨力图像的能力,生成图像分辨率可达1024✖1024。
秒级图像生成能力意味着用户可以在手机上直接完成高质量图像AI创作,并支持离线场景。这对摄影、设计、娱乐等场景的用户体验具有革命性意义,湖南汇视威的视觉基座大模型V1端侧版本通过端侧部署解决隐私、延迟等问题的同时,还能保障性能在线,将进一步加速端侧AI在智能终端的爆发,打造全新的端侧AI生态。
️写在最后
本次项目的突破充分证实了一点:小模型,也有大作为;国产化,开拓新局面。不管是在国产算力层面还是在端侧AI层面,湖南的这次突破作为行业标杆将推动更多的国产AI技术走向成熟,并可能催生更多的端侧AI商业生态。
那么,对于用户而言,更高效、更安全、更可靠的本地化AI体验即将到来,未来在更多的智能终端上,我们将可以无惧网络、算力等诸多严苛要求一键开启AI创作体验。而对于行业而言,这是国产化路径和端侧AI技术突破的重要里程碑,新的行业发展范式将持续革新AI产品形态,创造更多的可能。
*本文图片均来源于网络