0代码微调大模型火了，只用5步，成本低至150块

明敏 发自 凹非寺内

相对论位 | 香港市民号 QbitAI

0代码简化一个大框架，效率大概20美元（总投资共约144元）？

处理过程也非常简单，只均需5步。

如LLaMA、GPT、StableLM等爆烧的自由软件生成式框架，都能搞定。

这就是Monster API，一个除此以外烧起来的APISDK。

有人说道这个自由软件层面的新管理工作，能删去AI开发的比方说，加速AI运用的速度。

还有人愉悦提问，之后会推送GPT-3/GPT-4吗？

所以，它具体是怎么实现的？

简单理解，Monster API就是将简化工序来使简易化，让开源不必于是又手动进行一系列所设，同时也包括便宜的GPU能源及内存建模。

具体处理过程如下：

第一步，选择一个框架进行简化。

比如LLaMA-7B、GPT-J-6B、StableLM-7B等，Monster API包括了据估计10个框架大框架。

第二步，选择或创建简化任务。比如程序简化、文本分类等，或者自订任务。

第三步，选择一个HuggingFace数据资料集。

Monster API可以无缝集成HuggingFace数据资料集，选择范围相当大；还可以根据任务类型推荐数据资料集。

并且不必自己手动系统设计，就能终端所设好格式。

第四步，所设；也参数。

第五步，检验提交。

在所设好如上所有工序后，确定从未误解就可以提交了。

Monster API指出可以通过WandB上的日志来风险评估任务。

在其Twitter当中写道，用DataBricks Dolly 15k简化LLaMA-7B先成3个epouch，效率仅均需大概20美元（折合总投资共约144元）。

官网显示，注册普通用户后会送给2500积分。会员总称三档，计费分别是每月9美元/29美元/39美元。

除了简化以外，Monster API还包括各种生成式AI的API接口，并指出效率比其他方案很低80%。

除此以外消息显示，Monster API背后一些公司勇夺了110万美元的幼苗前资金（pre-seed funding）。

这家AI初创一些公司给自己的出发点是要要用“GPU层面的爱彼迎”，把在世界上充分利用的GPU能源实现灵巧调度，让开源们很难以更为很低的价格用于。

创始人是两兄弟Gaur Vij和Saurabh Vij。

其当中Gaur Vij还始创了一家CV一些公司，正是因为CV一些公司均需要面对非常大的IT资本，才灵感了他们要要用这样一个SDK。

Saurabh Vij之前是国家核子研究院的粒子物理学家，同时也研究计算机网络。

兄弟俩指出在经过多轮高效率渐进后，他们建模了消费级GPU在机器学习任务上的性能，使得运营Whisper AI框架的效率相比之下于AWSSDK降很低了90%，所以他们就想着为什么不借助这个方法来帮助数以万计的开源们。

同时他们表示一些公司的一个客户用于他们的充分利用的GPU计算能源，已经节约了30万美元。

参考元数据资料：[1][2]

— 先 —

相对论位 QbitAI · 头条号签共约