AI大模型正在走入寻常百姓家
全称为“Large Language Model Meta AI”,即Meta大型语言模型,分四个规格:7B、13B、33B和65B;B代表billion,指的是十亿,最大的模型参数是650亿。论文和源码,大家执行搜索。
给一下PC电脑上下载下载大模型的百度网盘地址:
https://pan.baidu.com/s/19g792GUMtELGBMCfu0d2OQ?pwd=x2ck
linux机器上下载大模型的方法:
1,安装pyllama:pip install pyllama -U
2,下载模型:python -m llama.download --model_size 7B
当然可以是13B,33B,65B
个人电脑上(当然电脑配置有要求)跑起大模型推理的方法:
说明:/llms/llama-7b-m2
代码git路径:https://github.com/ggerganov/llama.cpp
由于lldma已经开源了,在上面做finetune也不是难点,Vicuna 和 Alpaca 是两个代表,我们自己也在尝试使用lldma针对一些垂直行业做一些训练。
LLDMA模型其实并不好,但是他的意义在于开源,类似于10年前移动互联网时代来临的时候,苹果 IOS系统走的是封闭,Android系统走的是开放。下一个10年人工智能时代的大幕已经拉开,OpenAI 从代码和模型开源 到现在连论文都不公开了,彻底走上了Close的道路,相应在构建上生态很激进;Meta开源 lldma的意义就在开源,相信开发者的力量。不确定的是LLDMA能否扮演起Android的角色。我目前还是有点怀疑的,或者基于lldma或类似的开源大模型孵化出AI2.0时代的Android。
本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
0条评论