见过不少。
\n
“ai调教ai?听上去确实挺有意思的,但是想要实现起来恐怕不是那么容易的吧?”
\n
“没错,复杂的ai驱动的决策过程本就是一个“黑盒”,这也是其中最大的难点之一,所以我设计了这套agileedge框架,尽可能地去避免这些问题。”
\n
手指轻敲键盘,将ppt翻到下一页,也是这次汇报的核心内容,agileedge的框架图,虽然代码一行没有,但是只要逻辑上能够说服老师就够了。
\n
“这套框架主要都是基于attention,也就是transformer,虽然其存在计算量大的问题,但是毫无疑问,这是现阶段所有深度学习的核心基础。
\n
agileedge的作用概括来说就是两个字——打包!ppt上所展示的是agileedge最为核心的三个组件,分别是:
\n
感知与状态编码层,它的作用是收集并预处理来自边缘环境的原始、多模态数据,
\n
ai协同优化决策引擎,采用分层强化学习架构,实现大模型的缩小,
\n
执行与反馈层,将缩小的大模型打包到相对应的边缘环境中。
\n
最终达到ai边缘部署的目的,理论上来说,无论什么样的大模型,经过这一流程都能被塞到边缘设备中。”
\n
邓永华看着大屏幕上的ppt思考了一会儿,缓缓开口:“我有一个问题,
\n
既然agileedge框架具有高度的自适应性,它有没有可能会在运行时为了满足短期性能目标而频繁地对边缘设备上的ai模型进行极端压缩,或者进行激进的在线剪枝。
\n
这种持续且可能激进的“调教”行为,长此以往是否会导致模型在未被直接监控的复杂场景或长尾数据分布
本章未完,请点击下一页继续阅读! 第3页 / 共4页