站长之家（ChinaZ.com）5月26日 消息:
有一种名为
QLoRA
的新方法可以在单个 GPU 上微调大型语言模型。目前已经有研究人员用它来训练
Guanaco
，这是一个性能效果99% 接近ChatGPT的聊天机器人。
华盛顿大学的研究人员提出了微调大型语言模型的方法 QLoRA。该团队利用 QLoRA 发布了 Guanaco，这是一个基于Meta 的 LLaMA模型的聊天机器人系列。
最大
的 Guanaco 变体具有650亿个参数，在与GPT-4的基准测试中实现了ChatGPT （ GPT-3.5-turbo ）99% 以上的性能。
微调大型语言模型是提高其性能和训练的最重要技术之一。然而，这个过程对于大型模型来说计算量非常大，例如 LLaMA65B ，在这种情况下需要超过780GB 的 GPU RAM。虽然开源社区使用各种量化方法将16位模型简化为4位模型，从而大大减少了推理所需的内存，但类似的方法还没有用于微调。
QLoRA 允许在单个 GPU 上微调650亿个参数 LLM
通过 QLoRA，该团队展示了一种方法，允许将 LLaMA 等模型量化为4位，并添加LORA模型，然后通过反向传播进行训练。通过这种方式，该方法可以实现4位模型的微调，并将650亿参数模型的内存需求从超过780GB 降低到不到48GB 的 GPU 内存，其结果与微调16位模型相同。
“这标志着LLM微调的可访问性发生了重大转变:现在是迄今为止在单个GPU上微调的
最大
公开可用模型，”该团队说。
为了测试 QLoRA 和不同微调数据集的影响，该团队在八个不同的数据集上训练了1，000多个模型。一个关键发现:数据的质量比任务的数量更重要。例如，在OpenAssistant 的9，000个人类样本上训练的模型比在 FLANv2的100万个样本上训练的模型更适合聊天机器人。因此，对于 Guanaco，该团队依赖于 OpenAssistant 数据。
开源模型 Guanaco 达到 ChatGPT 级别
该团队使用 QLoRA 训练了 Guanaco 系列模型，表现第二好的模型在基准测试中以330亿个参数实现了 ChatGPT 性能的97.8%，同时在不到12小时的时间内在单个普通的 GPU 上对其进行了训练。在专业 GPU 上，该团队仅用24小时就训练了具有650亿个参数的
最大
模型，并达到了ChatGPT 性能的99.3% 。
最小的 Guanaco 模型具有70亿个参数，仅需要5GB 的 GPU 内存，并且在 Vicuna 基准测试中比26GB 的羊驼模型高出20个百分点以上。
除了 QLoRA 和 Guanaco，该团队还发布了 OpenAssistant 基准测试，该基准测试在953个提示示例中让模型相互竞争。然后可以由人类或 GPT-4对结果进行评分。
Guanaco数学不好，QLoRA可用于移动微调
不过，该团队引用数学能力和4位推理目前非常慢。接下来，该团队希望提高推理能力，预计速度提升8至16倍。
由于微调是将大型语言模型转变为类似 ChatGPT 的聊天机器人的重要工具，该团队相信 QLoRA 方法将使微调更容易获得——尤其是对于资源较少的研究人员而言。他们认为，这对于自然语言处理领域
尖端
技术的可访问性来说是一个巨大的胜利。
论文指出:“QLORA 可以被视为一个平衡因素，有助于缩小大型企业与拥有消费类 GPU 的小型团队之间的资源差距。这也意味着，小企业可以通过像 Colab 这样的云服务进行微调大模型。
除了微调当今
最大
的语言模型外，该团队还看到了私有模型在移动硬件上的应用。“QLoRA 还将在您的手机上启用隐私保护微调。我们估计您每晚可以使用 iPhone12Plus 微调300万个单词。这意味着，很快我们将在手机上拥有专门针对每个应用程序的LLM。”
第一
作者 Tim Dettmers 在 Twitter 上说。
关于Guanaco-33B 更多信息和代码可到 GitHub 查看。
参考网址:
https://github.com/artidoro/qlora
相关产品可访问《
有哪些类似chatgpt产品? 17 个ChatGPT/GPT4 开源替代品推荐（附网址）
》一文了解。
（
举报
）
iQOO Neo8 系列天玑9200+首发机型会是iQOO Neo8系列，大概率会是iQOO Neo8 Pro。天玑 9200+ 的 CPU 和 GPU 成绩都超过了高通骁龙 8 Gen 2 旗舰处理器，相比上一代天玑 9200 的 GPU 性能大幅提升。除了将搭载天玑 9200 + 处理器以外，iQOO Neo8 Pro 还将配备一块 1.5K 显示屏，采用 1/1.5 英寸 5000 万像素主摄，并配备了 16GB LPDDR5X + 512GB UFS 4.0。
核心频率不同，CPU型号不同天玑9200+和天玑 9000 都是联发科的5G旗舰级芯片，天玑9200+和天玑9000都是采用台积电4nm工艺制程。天玑9200+的CPU最高主频为3.3GHz，而天玑 9000 的CPU最高主频为3.2GHz。两款芯片都支持双模5G、WiFi 6E和蓝牙5. 2 等技术。
台积电 4 纳米工艺1+3+ 4 核心结构设计，安兔兔跑分超过了 136 万分天玑9200＋处理器，台积电 4 纳米工艺1+3+ 4 核心结构设计，包括 1 颗X3 超大核、 3 颗A715 大核和 4 颗A510 小核，全部支持 64 位应用，安兔兔跑分超过了 136 万分。首款搭载天玑9200＋处理器的手机为iQOO Neo8 和iQOO Neo8 Pro，核心配置：天玑9200＋＋LPDDR5X＋UFS3.1，Pro机型采用UFS4.0。
天玑9200+主频是3.0GHz，与骁龙 8Gen 2 相同，跑分要比骁龙 8Gen 2高一点点天玑 9200+ 处理器与天玑 9200 同架构，但所有核心频率增加，主频来到了 3.0GHz，与骁龙 8Gen 2 相同。跑分数据，天玑 9200+ 在 Geekbench v6 平台单核得分 2121 分，多核得分 5655 分。作为对比，骁龙 8Gen 2 的单核跑分成绩在大约 2000，多核成绩大约 5400。天玑9200+的安兔兔跑分大约为 136 万分，骁龙8Gen2 安兔兔跑分大约是128万分。
在 Geekbench v6 平台单核得分 2121 分，多核得分 5655 分联发科已经正式官宣，天玑9200+将于 5 月 10 日发布，这款处理器的 Geekbench v6 跑分已经出现。天玑 9200+ 处理器与天玑 9200 同架构，但所有核心频率增加，主频来到了 3.0GHz，与骁龙 8Gen 2 相同。 根据爆料的跑分数据，天玑9200+在 Geekbench v6 平台单核得分 2121 分，多核得分 5655 分。 作为对比，骁龙 8Gen 2 的单核跑分成绩在大约 2000，多核成绩大约 5400。
2K+ 分辨率魅族 20 Pro 采用6.81英寸直屏，2K+ 分辨率、100% P3 广色域、120Hz LTPO 高刷、最高 1200 nit 全屏亮度、最低 2 nit 全屏亮度，同时支持防蓝光、DC 调光等功能一应俱全；魅族 20 Pro采用旗舰级性能配置，包括顶级处理器第二代骁龙 8、12GB 起步的 LPPDR5X 大内存、至高 512GB UFS4.0 极速闪存以及 36424 平方毫米的立体散热堆叠。
第二代骁龙 8，LPPDR5X+UFS4.0，2K三星E6 材质Super AMOLED屏幕魅族 20 Pro，内置第二代骁龙 8，LPPDR5X+UFS4.0，搭载了2K三星E6 材质Super AMOLED屏幕，屏幕尺寸6. 81 英寸，支持120Hz自适应屏幕刷新率和1500Hz瞬时触控采样率，峰值亮度可达1800nit，屏幕还通过了SGS抗蓝光、抗频闪护眼认证；破晓灰、曙光银、朝阳金三种配色，整机厚7. 8 毫米，重 209 克；镜头模组由 5000 万像素人像镜头、 5000 万像素广角镜头、 5000 万像素超广角镜头组成，支持全像素对焦技术搭配dTOF辅助对焦，官方称将使对焦速度提升33%。魅族20 系列的主摄均支持SMA防抖，最高8K视频录制和夜景录像功能；5000mAh电池配80W快充，支持50W无线快充和无线反充功能；价格方面，12GB+128GB、12GB+256GB、12GB+512GB三种存储组合，售价 3999 起。
6. 55 英寸144Hz高刷屏，高通骁龙8 Gen2魅族 20标准版采用6. 55 英寸144Hz高刷屏，处理器是高通骁龙8 Gen2，LPDDR5X + UFS 4.0，内置4700mAh电池 + 67W快充，直角金属中框，机身重190g、厚7.9mm，支持超声波指纹、双扬声器、玻璃后盖、红外遥控、X轴线性马达，前置摄像头是3200 万镜头，后置 5000 万主摄 +1600 万超广角 +500 万景深三摄，提供先锋灰、定胜青、热爱粉、悦动黄四个颜色，售价方面，12GB+128GB售价 2999 元，12GB+256GB售价 3399 元，12GB+512GB售价 3799 元。
第二代骁龙7+处理器Redmi Note12 Turbo搭载的是高通第二代骁龙7+处理器，采用台积电4nm工艺，CPU采用1+3+ 4 架构设计，核心参数为1x2.91Ghz@X2 超大核、3x2.5GHz@A710 大核、4x1.8GHz@A510 小核，整体CPU性能提升约50%，Adreno GPU性能提升 2 倍，AI引擎性能提升 2 倍。第二代骁龙7+处理器安兔兔得分为 963968 分；Geekbench5 单核得分 1209 分，多核得分 3868 分；3D Mark Wild Life 得分为 7474 分。实际运行游戏方面，以《原神》为例，在极致画质 60 帧模式下运行一小时，基本接近满帧运行，平均帧率能够高达 58.8 帧。
6. 67 英寸OLED柔性直屏，分辨率2400 x 1080Redmi Note12 Turbo屏幕基本参数是：超细四窄边 OLED 柔性直屏 尺寸：6. 67 英寸 分辨率：2400 x 1080 全局激发亮度：1000nit* 对比度：5，000，000:1 调光级数： 16000 级 显示帧率：30 / 60 / 90 / 120Hz 触控采样率：全局 240Hz，支持1920Hz 高频 PWM 调光 | 12bit 色深 | DCI-P3 色域 | 阳光屏 | 护眼模式 | SGS低蓝光认证 | HDR10+ | Dolby Vision | Adaptive HDR | 优酷帧享。
第二代骁龙7+处理器，屏幕6.67英寸Redmi Note12Turbo，搭载第二代骁龙7+处理器，屏幕6.67英寸、分辨率2400×1080、支持120Hz高刷+1920Hz高频PWM调光、内置5000mAh电池+67W有线快充，厚7.9mm，重量181g，后置三摄分别是6400万 像素超清主摄+800万 像素超广角镜头+200万 像素微距镜头，前置1600万 像素高清人像相机!定价上，8GB+256GB入门版1999元，顶配16GB+1TB定价2799，首发到手2599元。
后置三摄，主摄 5000万像素，屏幕分辨率2496*2224华为Mate X3有「羽砂玻璃版:羽砂白、羽砂黑、羽砂紫」、「素皮版:晨曦金、青山黛」五款配色可选;覆盖昆仑玻璃;超轻薄折叠四曲设计，机身重量仅239g，厚度仅5.3mm， IPX8级抗水。屏幕拥有2496*2224超高分辨率和426ppi 超高像素密度。同样支持最高120Hz 自适应刷新率以及1440Hz PWM 调光。影像方面:搭载5000万像素超感知主摄，1300万像素超广角镜头，1200万像素潜望式长焦镜头。并配备10通道多谱传感器和激光对焦传感器，支持100倍变焦和5倍光学变焦。续航方面:配备4800mAh 大电池，支持50W 无线快充、66W 有线快充以及7.5W 无线反向快充。性能方面:与华为 P60系列一样搭载了骁龙8+ 处理器，配备了超冷跨轴石墨烯散热系统，导热面积提升了20%。价格:华为Mate X3:256GB:12999、512GB:13999;华为 Mate X3典藏版:1TB:15999
6. 67 英寸的OLED屏幕， 4800 万像素长焦镜头华为P60 系列在背部采用了矩阵型模组，官方称之为“凝光设计”，引入了“凝光贝母”工艺；华为P60 全系搭载了6. 67 英寸的OLED屏幕，拥有2700* 1220 刷新率，显示效果十分细腻，支持10. 7 亿色、1440Hz PWM调光。 同时支持全局色彩管理，支持莱茵专业色准双重认证；屏幕还支持LTPO动态高刷新率，支持1~120Hz自适应刷新率，还配备了昆仑玻璃面板，IP68 防尘抗水；相机方面，华为P60 Pro则进一步升级长焦镜头，配备了 4800 万像素RYYB的超聚光夜视长焦镜头，支持3. 5 倍光学变焦、OIS，拥有F2. 1 超大光圈；支持双向北斗卫星通信；5100 毫安时大电池+88W快充；首发搭载了全新的鸿蒙3.1，新增了AOD息屏显示功能。
6.67英寸的OLED屏幕，支持1~120Hz的LTPO刷新率华为P60 系列的屏幕搭载了骁龙8+ 4G处理器，6. 67 英寸的OLED屏幕，支持1~120Hz的LTPO刷新率，支持1440Hz PWM调光，拥有10. 7 亿色、全局P3 色域、HDR-P3|HDR Vivid显示效果；覆盖四曲昆仑玻璃，支持IP68 防水，是全球首款德国莱茵专业色准双重认证的手机；相机方面，华为P60 支持F1.4-4. 0 十档可变光圈，搭载大光圈高透光镜群和RYYB超感光传感器，支持了华为XD Fusion Pro质感引擎；支持双向北斗卫星消息；首发搭载鸿蒙3.1，支持AOD息屏显示；价格，华为P60 的128GB版 4488 元，256GB版本是 4988 元，512GB版本是 5988 元。
天玑9000处理器OPPO Pad2内置了天玑9000处理器，天玑9000CPU采用先进的1+3+ 4 三丛集旗舰架构1×Arm Cortex-X2 超大核 @3.05GHz，迸发惊人峰值性能，满足旗舰手机对高性能的需要;3×Arm Cortex-A710 大核 @2.85GHz，使重载应用和多任务的处理更加高效;4×Arm Cortex-A510 能效核心 @1.8GHz，以低功耗处理轻量级任务。安兔兔平台上，天玑9000的跑分是107万分，在Geekbench 5 中，搭载了天玑 9000的 Vivo X80 Pro 得分 1248 和 4191(单核和多核)。
天玑9000芯片，LPDDR5+UFS3.1，11.61英寸LCD屏幕，支持144Hz刷新率OPPO Pad2主要配置包括:11.61英寸7:5比例LCD显示屏，拥有2800×2200分辨率和500尼特亮度，支持144Hz五档刷新率智能调节，2048级亮度自适应智能调光并支持手写笔。OPPO Pad2基于联发科技天玑9000，辅以LPDDR5内存和UFS3.1存储，内置9510毫安时电池、67W有线快充、杜比四扬声器、1300万像素后置摄像头、800万像素前置摄像头和蓝牙5.3。软件方面，ColorOS13.1支持5G通信共享。可以自动共享手机的5G通信，从而直接上网、接打电话、同步手机验证码、拍照流转和应用接力。
5G双待双通（DSDS）、WiFi 6/6E、蓝牙5.3等骁龙7+ Gen2 采用了骁龙X62 5G调制解调器，在全球范围内支持多种频段和模式的5G网络连接。它还是首款在骁龙 7 系中实现了5G双待双通（DSDS）功能，在两张SIM卡都插入时可以同时使用两个不同运营商或不同网络制式（例如SA和NSA）的5G网络服务。除此之外，它还支持WiFi 6/6E和蓝牙5. 3 等无线技术。
