第9章 第一次组会

接下来的流程就很固定了。

\n

创建虚拟环境，安装pytorch，安装各种需要用到的包。

\n

光是装环境，他就弄了一个上午。

\n

顺便抽空看了一下服务器状态，果然，八张80g的h100，一共640g显存，虽然不止他一个人用，但是也剩下一半多，肯定是够用了。

\n

agileedge的流程他心里早就想清楚了，写代码那就是水到渠成的事情。

\n

而且现在都有ai辅助，核心框架一共几千行代码写起来都不需要一个小时。

\n

再加上自己检查，调试。

\n

下午五点钟就搞完了核心框架的所有代码，这种速度放在几年前，那是根本不敢想的。

\n

而写代码只能说是整个科研过程中最为简单的一个步骤了。

\n

接下来才是折磨的开始。

\n

跑实验——>调bug，这种枯燥的循环过程才是真正让人感觉心累的环节。

\n

周昀在网上找了一个参数量在100b左右的大模型，本来他是打算找个几十b的就差不多了。

\n

谁知道导师这么给力，资源多了，他也不那么扣扣嗖嗖了。

\n

agileedge的主要作用就是将大模型压缩成小模型然后放到边缘设备里。

\n

因为是全自动的ai框架，所以其操作流程非常的傻瓜。

\n

只要将边缘设备连接到电脑，程序就会自动检测其硬件的具体参数，然后经过agileedge的压缩，不断地优化模型，最

本章未完，请点击下一页继续阅读！ 第2页 / 共5页