您的位置:首页 > 互联网

高通演示在安卓机运行AI绘画模型Stable Diffusion 15秒生成AI图像

发布时间:2023-02-25 16:09:36  来源:互联网     背景:

2月24日 消息:Stable Diffusion可以说是世界上最先进的生成式 AI模型,不过目前它通常只在云端运行。那如果同样的模型是否可以就在我们口袋里的智能手机上运行呢?这就是高通工程师已经解决的挑战。

高通在其官方 YouTube 频道发布了一段视频,首次成功在安卓手机上使用 Stable Diffusion 来生成 AI 图像,整个生成时间不超过15秒。高通表示这是全球首次在安卓设备上进行演示。

高通骁龙2

在发布的研究中,高通透露,通过结合使用软件技术和硬件优化,它能够缩小Stable Diffusion,使其可以在普通的安卓智能手机设备上运行推理模型。

Stable Diffusion 由初创公司Stability AI开发的,当今最流行的图像生成 AI 模型之一,主要竞争对手比如有OpenAI 的 DALL-E。需要明确的是,训练生成式 AI 模型所需的技术非常庞大,而且不会在智能手机上运行。相反,高通所做的是推理方面,即“生成”部分,它可以从预训练模型中创建新图像。

目前,用户已经能够以间接方式在手机上生成基于 Stable Diffusion 的图像,即APP或浏览器访问生成图像的云服务。高通最新展示的是直接在 Android 智能手机上生成 Stable Diffusion 生成式 AI 图像的能力,无需调用云端来完成繁重的工作。

“为了隐私和安全,当通过用于Stable Diffusion 的云 API 输入查询时,你的所有信息或想法都会发送到某家公司的云服务器,”高通技术工程副总裁 Jilei Hou 介绍道。“而在自己设备上运行人工智能,这个问题就解决了,因为你所有的想法都只存在于设备上。”

Qualcomm 为证明其功能而构建的演示在配备最新的 Snapdragon8Gen2移动平台的 Qualcomm 参考设计设备上运行,该平台已在当今的许多商用设备中使用。

Hou 表示,推理部分是在 Hexagon 处理器上完成的,Hexagon 处理器是高通工程师针对 AI 加速的完整定制设计,是骁龙8Gen2芯片的一部分。

虽然高通的芯片对于移动设备来说功能强大,但 Stable Diffusion 对直接在智能手机上运行提出了一系列挑战。Hou 指出,一方面,模型的大小超过11亿个参数,相关计算量是智能手机上运行的典型工作负载大小的10倍以上。

“这是我们在智能手机上运行过的最大的模型,”Hou 说道。“我们所做的所有全栈优化对于使模型适合并高效运行非常重要。”

高通如何缩小 Stable Diffusion 实现在 Android 上运行呢?

所需的优化涉及大量使用Qualcomm AI Stack,这是一个旨在帮助优化模型和工作负载的 AI 工具组合。

Hou 解释说,对于 Stable Diffusion,他的团队从Hugging Face的FP32version1-5开源模型开始,通过量化、编译和硬件加速进行优化,以在搭载 Snapdragon8Gen2移动平台的手机上运行。

为了缩小模型,他的团队使用了AI 模型效率工具包 (AIMET) 的训练后量化功能。

他解释道,“量化不仅可以提高性能,还可以通过让模型在我们专用的 AI 硬件上高效运行并消耗更少的内存带宽来节省电量。”

对于编译,Qualcomm AI Engine 直接框架用于将神经网络映射到可在智能手机硬件上高效运行的程序中。Hou指出,Qualcomm AI Engine 的整体优化显着降低了运行时延和功耗。为使 Stable Diffusion 在智能手机上良好运行所做的所有工作都将有利于 Qualcomm AI Stack 的未来迭代和用户。

image.png

对于未来,高通将吸取经验教训,将其他大型生成人工智能模型(例如,类似 GPT 的模型)从云端带到设备上。Hou补充说,为使 Stable Diffusion 在手机上高效运行而进行的优化也可用于其他平台,例如笔记本电脑、XR 耳机,以及几乎任何其他由 Qualcomm Technologies 提供支持的设备。

Intel Core i9-12900K

“在云端运行所有人工智能处理的成本太高,这就是高效的边缘人工智能处理如此重要的原因。边缘 AI 处理在运行 Stable Diffusion 和其他生成 AI 模型的同时确保用户隐私,因为输入文本和生成的图像永远不需要离开设备——这对于消费者和企业应用程序的采用来说是一件很重要的事情。”


返回网站首页

本文评论
微软减持浪潮:投票权降至6.6%
  11月14日消息,浪潮国际昨日在港交所发布公告显示,微软于今年10月31日向浪潮发出了优先股转换通知,并于11月7日完成。微软总投票权比例将由15.51%降至6.59%,同时浪潮国际与...
日期:07-24
马斯克:特斯拉Semi卡车重达36吨 实测续航超800公里_特斯拉semi卡车价格
特斯拉史上最大的车型Semi”,在跳票数年后,终于要开始量产交付。特斯拉官方消息,将于12月1日在内华达州的特斯拉Gigafactory超级工厂,举行Semi电动卡车交付仪式,首批车型交付对象...
日期:11-29
宜家的消费者_三个月关两店,宜家不受年轻人喜欢了?
容声冰箱离子净味系列rtx下一代显卡   文 |;刘德炳   行业自身也在发生变革。   在北京五棵松附近的宜家体验中心,一进门不远处是沙发销售区,不过,前来选购沙发的消费者...
日期:08-17
短视频四大主流平台对比_谁将是短视频行业第三极  百度好看视频or腾讯微视?
  2018这一特殊经济年份前后,短视频的热闹为其增添了不少色彩。   12月底媒体报道,快手正在进行新一轮融资,投前估值250亿美元,募资10亿美元;1月15日,抖音正式宣布升级私信...
日期:04-28
Facebook f8大会主题:阅读 欣赏 聆听_Facebook大会
  9月20日早间消息,据知情人士透露,Facebook将在f8开发者大会上推出一系列全新按钮,从而对现有的Like按钮数据进行细化。   这几个新按钮为Read、Listened、Watched,今后还...
日期:07-23
谷歌CFO周一暗示谷歌希望重返中国市场(谷歌CFO)
  北京时间1月4日上午消息,谷歌CFO帕特里克·皮切特(Patrick Pichette)周一暗示,谷歌希望重返中国市场。   皮切特接受英国《泰晤士报》采访时表示,去年1月谷歌退出中国市场...
日期:07-25
消息称京东已收购德邦快递(京东德邦快递快吗)
  据新言财经报道,近期京东已经完成对德邦快递的收购。一份流传的截图显示:德邦内部已经官宣了收购消息,德邦快递董事长兼总经理崔维星将退出,京东将委派高层接手。崔维星在...
日期:07-17
腾讯财报广告收入_腾讯第二季度网络广告业务收入186亿元 同比下滑18%
拳头旗下手游 查看最新行情   讯 8月17日下午消息,腾讯控股今日发布2022年度第二季度财报。财报显示,该公司第二季度营收1340亿元,同比下滑3%;净利润186亿...
日期:08-19
狂掉粉40W,又一抖音千万粉丝网红翻车「抖音粉丝破亿的网红」
声明:本文来自于微信公众号 微果酱(ID:wjam123456),作者:黄小曼,授权转载发布。你离网红的距离,或许只差一个短视频。短视频浪潮依旧风起云涌,流量席卷一切,每个人的成名仿佛被按下...
日期:11-26
iphone4有指纹识别吗「iPhone SE4或新增侧边指纹!就是大号XR」
中关村在线消息:10月10日,据相关爆料,第四代iPhoneSE将迎来大改,新机或采用6.1英寸的显示屏,首次采用挖孔屏设计,但不能确定的是,第四代iPhoneSE是继续延续采用Touch ID解锁方案还...
日期:10-11
亚马逊全年活动「亚马逊宣布下月举办新会员促销活动 首次一年举办两场大促」
  讯 北京时间10月27日早间消息,据报道,亚马逊将于下月举办另一场类似Prime Day会员日的促销活动。这是亚马逊首次在一年内举办两场此类活动。  亚马逊周一表示,下场活动将...
日期:09-30
百度2022全年营收1236.75亿元 净利润同比增长10%_百度每年盈利
凤凰网科技讯 2月22日消息,百度发布了截至2022年12月31日的第四季度及全年未经审计的财务报告。2022年,百度实现营收1236.75亿元,归属百度的净利润(非美国通用会计准则)206.8亿元...
日期:02-25
申通快递:7月实现快递服务业务收入28.87亿元 同比增长63.74%_申通快递2018年年报
财联社8月18日电,申通快递公告,7月实现快递服务业务收入28.87亿元,同比增长63.74%。e派手机官方网站...
日期:08-20
1688官方物流服务2023年春节放假时间表出炉_1688春节发货时间
1月3日 消息:今日,1688官方物流服务2023年春节放假通知发布,2023年1月15号-1月30号期间,1688官方物流服务全部放假。1688官方表示,2023年春节将至,1688官方物流服务春节期间将陆...
日期:01-03
传苹果同百代签署云音乐协议 或6月6日发布
腾讯科技讯(中涛)北京时间5月19日消息,据美国科技新闻网站CNET报道,来自美国唱片业的多名知情人士周三透露,苹果已经就其新型云音乐服务同百代(EMI)唱片公司签署了合作协议;此外,...
日期:07-28
传神州租车考虑从港股私有化 官方称不知情_神州租车股票港股
  3月11日午间消息,有传闻称港股上市的神州租车正考虑私有化,神州租车方面回应称“不知情”。   据媒体报道,有匿名人士透露,神州租车正在进行私有化谈判,牵头的投资机构为...
日期:08-17
贾乃亮抖音带货再破2.4亿记录!边吃边带货,直冲抖音第一。_李小璐抖音卖货
  “小孩小孩你别馋,过了腊八就是年”。   腊八节不但意味着年的开始,还意味着吃货朋友们马上就能一饱口福,品尝到很多年味满满的好吃的。苏宁易购在腊八节这一天,正式...
日期:07-26
阿凡达2重映票房「阿凡达2上映瞬间票房破亿 票价高也阻挡不了大家的观影热情」
12月16日 消息:今天凌晨0点,由詹姆斯·卡梅隆执导的科幻大片《阿凡达2》在中国内地院线正式上映,零点场票房1988万人民币,加上1800万的点映票房,和今早7700万的票房,影片内地市场...
日期:12-16
老虎证券美元出金_花旗:大幅上调老虎证券目标价365%至38.6美元
  近日,花旗发布研究报告,将老虎证券(NASDAQ:TIGR)目标价由8.3美元上调365%至38.6美元,维持买入评级。报告中称,主要看好老虎证券自清算、国际化以及投行承销三大板块齐头并...
日期:07-16
微软发布《光环》联名版Xbox Series X:定制主题开机音效_xbox series x 音效
  在今天凌晨的科隆游戏展发布会上,微软正式发布Xbox Series X《光环:无限》联名版游戏主机。   为庆祝《光环》系列20周年与《光环:无限》,这款联名版Xbox Series X的设计...
日期:07-21