日排行周排行月排行日推荐周推荐月推荐

奇迹小说网>搞科研的学霸文>第5章 不好意思我打断一下

第5章 不好意思我打断一下(第2页)

邱彦和沈瑞都是一副果然如此的样子,他们记得当初他们第一次汇报的时候虽然有着新手保护期,但也被邓老师问的死去活来的。

不过当他们看向周昀时,却发现他脸上没有一丝的紧张。

事实也确实如此,三年下来,周昀都不知道经历过多少组会了,紧张?那是不存在的。

等邓老师话音落下,周昀一脸从容的回答:“这是我想要研究的课题,根据我的调研,暂时还没有以这篇文章命名的论文。”

“哦?这个题目是你自己想的?”周昀的回答让他有些意外,就算是他手下那几个要读博的研三的学生,也没有谁的研究课题是完全独立想出来的。

这对于一个研零的学生来说已经是非常不错了。

“你继续。”

周昀翻到下一页PPT,没有文字,PPT上是一些著名的AI公司的LOGO:“这些都是现在比较著名的AI公司,

GPT,claude,gemini这都是现在世界上顶尖的大模型,不可否认的是,这些大模型的性能都非常强,但相对应的,训练他们所耗费的资源也是海量。

一个先进的图像识别模型可能需要几十甚至上百兆的内存,数以亿计的计算量。

它们就像高性能的跑车,必须在云端数据中心这样的大跑道上才能发挥实力,但是现实生活中,大家的设备都是电脑,手机,摄像头等等。”

说到这里周昀停了一下,将PPT翻到下一页。

老师没有提问,那他就继续讲。

“这种情况下,我们面临一个巨大的挑战:如何让庞大、复杂的AI模型,在这些资源有限的“小设备”上,也能跑得又快又好,还能实时响应?

以下四点是我认为的需要解决的几个痛点:

1。尺寸不符:大模型在小设备上跑不动,或直接装不下。

2。速度滞后:即使勉强能跑,响应速度也慢,用户体验差。

3。能耗巨大:小设备电池续航有限,大模型会迅速耗尽电量。

4。网络依赖:依赖云端意味着有延迟,且断网就失效,隐私也难以保障。”

“不好意思,我打断一下。”

“老师您说。”

“你刚才提到了这些大模型性能虽强,但资源消耗巨大,而现在你想把这些大模型塞进小设备里,其中的难点我理解,

但是,既然这些顶尖大模型在云端表现如此出色,为什么我们非要执着于把它们硬塞进边缘设备?

云端计算的便捷性和可扩展性难道不更符合AI发展的趋势吗?边缘部署的必要性到底有多强?”

这个问题问的非常刁钻,如果周昀不能回答,那就算是从根本上否定了研究的必要性。

“老师的问题确实非常关键,如您所言,云端大模型在性能和可扩展性上确实有无可比拟的优势,

但是大模型的基石是数据!

在金融、医疗、国家安全等高度敏感的行业,数据“不出境”或“不出厂区”是严格的法律法规要求。

这种情况下,任何云端的数据传输都是具有一定风险的,虽然其有强大的安全措施,但其本身就是一个巨大的‘靶心’,

一旦云服务遭受网络攻击,影响范围可能是灾难性的,这一点相信老师肯定是有所了解的。”

书友推荐:万人嫌的大师兄重生后,天道跪舔官运,挖笋挖出个青云之路!妈,您人设崩了!顽石设陷(校园 1v1 H)韵母攻略继女调教手册(H)末日霸主系统真心游戏[微恐h]斗罗大陆2蚕淫狂医下山,都市我为王全家亲子游(无绿修改)女神堕落系统Hush爱你是我们的本性淫悦帝王成长计划闪婚女领导后,我一路青云直上今天的圣女大人也在努力生产「圣水」两小无猜混在女帝身边的假太监
书友收藏:淫悦帝王成长计划妈妈陪读又陪睡重生少年猎美乐土崩坏三(高h)女神攻略调教手册凡人修仙传之恶堕沉沦赘婿的荣耀旅行者的束缚之路穿越伊始将异母姐姐调教成性奴(穿越到异世界把高贵强大的女性征服至胯下)我丰乳肥臀的瑜伽教练母亲和保守的翘臀长腿女友被得到催眠APP的猥琐大叔调教成了专属肉便器美母为妻崩坏:性穹铁道反派:从房东太太开始原神:提瓦特猎批王我的冷傲岳母和知性美母因为我的一泡精液成为了熟女便器 (无绿版)终极羞辱的隐奸绿帽全家桶NTR母上攻略掌中的美母母姐攻略恋熟小鬼的干妈与美母