第9章 第一次组会（1/2）

第二天早上起床，周昀感觉自己腰上有些酸痛。

“早知道昨天晚上不应该勉强的。”

为了保持一个健康的身体，周昀昨天晚上饭后休息了一会儿跑步去了。

一下跑了五公里，也许是太久没跑了，昨天还没什么感觉，现在起床，那叫一个酸爽。

昨天买的显示器已经到了，吃了个早饭，就把显示器取了回来。

看著27寸的大屏幕，周昀满意地点点头。

“这才对嘛。”

昨天邓永华已经把伺服器的帐號密码发给自己了。

先是下了个termius，虽然windows有自带的ssh连接工具，不过他更习惯termius，主要是界面看上去比较舒服，年轻人嘛，总是喜欢炫酷一点的界面。

一顿操作之后，成功连接上了伺服器。

伺服器用的linux系统，一般都是没有gui也就是图形界面的，主要目的是为了减少资源的消耗，而且安全性也更高。

一开始用肯定会觉得有些彆扭，但是用习惯了之后就会发现。

本书首发 看书首选 101 看书网，101????????????.??????隨时享 ,提供给你无错章节，无乱序章节的阅读体验

在科研领域，linux比windows方便太多了。

在自己电脑上搜索了一下anaconda官网，找到最新版本的下载连结，然后直接用wget在伺服器上开始下载。

anaconda是ai领域最常用也可以说是必备的工具。

这伺服器的网速还挺快，没一会儿就下好了。

接下来的流程就很固定了。

创建虚擬环境，安装pytorch，安装各种需要用到的包。

光是装环境，他就弄了一个上午。

顺便抽空看了一下伺服器状態，果然，八张80g的h100，一共640g显存，虽然不止他一个人用，但是也剩下一半多，肯定是够用了。

agileedge的流程他心里早就想清楚了，写代码那就是水到渠成的事情。

而且现在都有ai辅助，核心框架一共几千行代码写起来都不需要一个小时。

再加上自己检查，调试。

下午五点钟就搞完了核心框架的所有代码，这种速度放在几年前，那是根本不敢想的。

而写代码只能说是整个科研过程中最为简单的一个步骤了。

接下来才是折磨的开始。

跑实验——>调bug，这种枯燥的循环过程才是真正让人感觉心累的环节。

周昀在网上找了一个参数量在100b左右的大模型，本来他是打算找个几十b的就差不多了。

谁知道导师这么给力，资源多了，他也不那么扣扣嗖嗖了。

agileedge的主要作用就是將大模型压缩成小模型然后放到边缘设备里。

因为是全自动的ai框架，所以其操作流程非常的傻瓜。

只要將边缘设备连接到电脑，程序就会自动检测其硬体的具体参数，然后经过agileedge的压缩，不断地优化模型，最终形成一个能运行的模型文件。

边缘设备周昀暂时就找了一台老的智能机，內存只有32g，將手机插上数据线。

运行程序。

一个进度条出现在屏幕下方。

【预计时间：17h】

“就知道。”

只要涉及到大模型，实验的时间就不会短，不过十几个小时也算快了，前世周昀曾经一个实验跑了两周，主要就是当时的伺服器实在太垃圾了。