PG电子官方网站继本年2月发表开源模子MiniCPM之后,短短70多天,清华系AI公司“面壁智能”又正在4月11日下昼推出了MiniCPM 2系列端侧模子。
同日,面壁智能向期间周报显露,公司已实行新一轮数亿元融资,由春华创投智能、华为哈勃领投,北京市人为智能物业投资基金等跟投,知乎行动计谋股东赓续跟投援手。本轮融资将用于人才引入,大模子底层算力与数据根源构修,和大模子落地三个倾向。光源资金承当独家财政咨询人。
面壁智能建设于2022年8月,潜心大模子技巧改进与使用转化。其创始团队要紧来自于清华大学天然发言治理实习室(THUNLP),公司CEO李大海兼任知乎CTO(首席技巧官);另一位公司笼络创始人刘知远,则是清华大学策画机系副教师、博士生导师,钻研倾向为策画机天然发言治理。
据李大海先容,面壁智能科研团队有100多人,清华、北大卒业的员工数目占比高达80%,均匀春秋为28岁。此中工程团队另有来自阿里、字节、百度等国表里出名公司的 AI 人才。
面壁智能CEO李大海向期间周报透露:“高效大模子是通向 AGI 的更实际的途途。”他称,面壁智能将打造更高效的Scaling Law拉长弧线,完毕平等参数职能更优、平等职能参数更幼成绩。
Scaling Law拉长弧线即模子的最终职能要紧与演练策画量智能、模子参数目和数据巨细三者闭连,而与模子的全部构造(层数、深度、宽度)根本无闭。研发职员可能通过它正在固定资源预算中,如额定的GPU数目、演练数据量或是演练时长下,般配模子的最佳巨细,且无需通过高贵的试错。
面壁智能的思绪即是,正在根据scaling law的处境下,对模子的细节实行更好的优化,使其正在平等本钱下抵达更好的成绩。
面壁智能团队曾于2020年12月发表国内首个中文大模子CPM-1。截至目前,公司正道划构修Al Agent智能体团结平台,推出基于群体智能的“大模子+Agent”使用——ChatDev智能软件开采平台。同时,To C消费端,面壁智能的基座模子产物“面壁露卡Luca”已获审批并对表盛开。
过去一年,对准AGI这一倾向,面壁智能将“高效”视作产物要害词,饱动大模子技巧发扬和商场落地。
正在2024年2月1日的发表会上,面壁智能对标Mistral发表了演练数据周围近1T、参数周围仅2B的模子——聚焦于适配端侧硬件的端侧大模子MiniCPM-2B。目前,MiniCPM-2B正在比GPU策画含糊量低的CPU上可完毕运转,有用下降了推理本钱。同时,即使将巨细压缩75%,MiniCPM的职能也能做到根本无损耗。
从贸易化层面来看,面壁当下更偏重企业端的产物验证。目前,面壁已与招商银行、数科网维、知乎等配共同伴,将大模子与Agent技巧安置落地于金融、教导、政务、智能终端等使用场景。
李大海称,虽然很难预测另日行业发扬,但跟着时代推移,公司会浮现“分层”,大模子使用也许会百花齐放,然而通用千亿大模子不会太多,也许惟有极少数的几家公司最终能卓越重围。
本年2月,OPPO 创始人兼CEO陈明永正在内部信中直截了表地指出:另日五年,Al敌手机行业的影响完整可能比肩当年智老手机。从行业发扬阶段来看,AI手机也将成为继效力机、智老手机之后,手机行业的第三阶段。
于过去十余年都未享福到技巧改进盈余的PC厂商而言,AI被放正在了越发紧张的地点。
联思、华为、信誉、苹果、微软等纷纷组织AI PC生态,扎堆亮相国际消费电子嘉会CES 2024。其余智能,芯片厂商也闻风而逃,高通、联发科、英特尔和AMD接踵发表了可能援手正在手机端运转百亿参数大模子的手机芯片。
“从消费者角度来看,端侧大模子避开了云端、收集速率的限定,可独当一边地擢升手机、电脑的运转体验,而且能包管用户数据安闲可控。”科技领会师李影向期间周报称。
从国内大模子企业发扬角度来看,李影以为,通用大模子往往必要暴力地损耗算力,端侧大模子的浮现或将消解表洋“算力造裁”的危急,不失为国内企业完毕弯道超车的机缘点。
但一个无法避开的挑衅是,手机与PC若援手当地化AI模子,意味着其必要更疾的传输速率、更大的积聚容量和带宽。是以,治理“算”和“存”的压力,将模子做“幼”做“高效”,成为“百模大战”卷向千亿参数后的又一困难。
李影透露,把大模子落正在端侧并实行后续商场实行,必要研讨到大模子的形式是不是足够幼,本钱是不是足够低,职能是不是足够强。
她称:“目前的通用大模子很大一局限无法突破这些掣肘。130亿参数周围的Llama 2跑正在手机端额表劳苦,但10亿参数目Stable Diffusion可能正在搭载骁龙芯片的手机上寻常运转。”
“当1.2B周围的模子使用于手机和PC端,意味着大模子离用户更近,从而能浮现更广博的落地场景。”李影告诉期间周报。
独特声明:以上实质(如有图片或视频亦蕴涵正在内)为自媒体平台“网易号”用户上传并发表,本平台仅供给音信存储办事。
谨以此献给1980~1989出生的人,80后无尽轮回的生平,太真正了!
幼节17分抹杀北京反击:血布41+7+6引全场高呼MVP 替补席为他欢娱
男人讲家庭教导要多勉励少期望。孩子的天下很幼,惟有学校和家,惟有父母能无前提接管孩子的不完善。“父母...
我的拘束很端庄,学生都起先嫉恨我了,这种处境,该怎样办呢?我告诉你全部的治理方法!
选iPhoneSE4照样等iPhone17?两者均再次被确认,拔取纠结了又一清华系AI公司获数亿元融资面壁智能李大海:只要一些数千亿模子能突围