AI大模型正在走入寻常百姓家

AI大模型正在走入寻常百姓家,第1张

全称为“Large Language Model Meta AI”,即Meta大型语言模型,分四个规格:7B、13B、33B和65B;B代表billion,指的是十亿,最大的模型参数是650亿。论文和源码,大家执行搜索。

给一下PC电脑上下载下载大模型的百度网盘地址:

https://pan.baidu.com/s/19g792GUMtELGBMCfu0d2OQ?pwd=x2ck

linux机器上下载大模型的方法:

1,安装pyllama:pip install pyllama -U

2,下载模型:python -m llama.download --model_size 7B

当然可以是13B,33B,65B

个人电脑上(当然电脑配置有要求)跑起大模型推理的方法:

Running LLaMA 7B and 13B on a 64GB M2 MacBook Pro with llama.cpp

说明:/llms/llama-7b-m2

代码git路径:https://github.com/ggerganov/llama.cpp

由于lldma已经开源了,在上面做finetune也不是难点,Vicuna 和 Alpaca 是两个代表,我们自己也在尝试使用lldma针对一些垂直行业做一些训练。

LLDMA模型其实并不好,但是他的意义在于开源,类似于10年前移动互联网时代来临的时候,苹果 IOS系统走的是封闭,Android系统走的是开放。下一个10年人工智能时代的大幕已经拉开,OpenAI 从代码和模型开源 到现在连论文都不公开了,彻底走上了Close的道路,相应在构建上生态很激进;Meta开源 lldma的意义就在开源,相信开发者的力量。不确定的是LLDMA能否扮演起Android的角色。我目前还是有点怀疑的,或者基于lldma或类似的开源大模型孵化出AI2.0时代的Android。


本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
白度搜_经验知识百科全书 » AI大模型正在走入寻常百姓家

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情