“李總,低端手機上的即時生圖還是有點掉幀。推理時間比預期多了0.8秒,使用者感知會比較明顯。”
他的聲音有些急,手指在鍵盤上飛快敲擊,調出效能曲線。
那條線在生圖階段猛地往上竄了一下,又掉下來。
李沫走過去,蹲下來盯著那臺手機螢幕,看了幾秒。
然後站起來,走到主控臺前,調出量化引數頁面。
他沉默了一會兒,手指在鍵盤上敲了幾下,改了三個數字。
“把KV Cache的精度再壓一點,從int8降到int4。犧牲0.1%的準確度,換取15%的速度提升。”
他頓了頓,“我們要的不是實驗室的完美,是使用者手裡的流暢。使用者感知不到的0.1%,不如換他們能用得起的15%。”
年輕工程師愣了一下,然後點頭,飛快地更新引數。
重新跑了一遍——生圖速度提上來了,掉幀消失,流暢度肉眼可見地提升。
他盯著那臺手機螢幕,螢幕上的圖片從模糊變清晰,生成時間比之前少了近一秒。
他抬起頭,眼睛亮了:“通過了。”
李沫點頭:“繼續。”
凌晨一點,測試過半。
王凱旋端著一鍋粥進來,熱氣騰騰的,是食堂師傅特意熬的皮蛋瘦肉粥。
他把鍋放在桌上,看了那些年輕人一眼,沒說話,轉身走了。
沒人去盛,都在盯著螢幕。
凌晨兩點,最後一輪測試。
多輪對話、複雜推理、長文字生成,全部透過。
那臺最老的千元機,三年前的驍龍625,跑完了所有專案。
雖然慢一點,但每一步都穩穩當當,沒有崩潰,沒有閃退,沒有答非所問。
一個年輕工程師蹲在那臺手機前面,盯著螢幕上的最後一行回覆,忽然鼻子一酸。
他想起貴州大山裡那些孩子,用的就是這種平板。
等智腦4.0裝上去,他們就不用再羨慕城裡的孩子了。
凌晨三點,所有機型測試透過。
李沫在主控臺前坐了一會兒,盯著螢幕上那排綠色的“透過”標記,像一排亮起的燈。
他拿起手機,給陸遠發了一條訊息:“可以起飛。”
四個字,發完,靠在椅背上,閉上眼。
。下放沒但,眉下一了皺得燙,口一了喝,去過接他,粥碗一來過遞人有邊旁
。家遠陸,城江
。福家全的上牆著照,的黃暖,燈夜盞一了留只裡廊走,了關經已燈的廳客
。著嘟微微,頭拳著攥手小,邊一到蹬子被,上床小在睡辰星小,門的間房兒開推輕輕遠陸
。角被好掖,上在蓋輕輕,來上拉子被把,腰下彎他
。了睡又,麼什句一了囔嘟裡,個了翻伙傢小
。髮頭撮小一出只,實實嚴嚴得裹子被,鋪上在睡星晚
。門上帶輕輕後然,兒會一了看邊床在站他
。綠著閃ogol的康健晴心,著亮還燈樓大遠的遠,涼些有風夜的上臺
。上肩他在靠後然,他給遞,來過走水溫杯一著端晴晚於
。火燈的遠著看,著站麼這就人個兩
。道問聲輕”?嗎張“
。裡心手在握子杯把,水口了喝遠陸
”。待期點有是只。張不“
”。表的後之了變則規戲遊現發,人些那天明待期“,火燈片那遠著看,頓了頓他
。些了更得靠,了笑晴晚於
”。子桌掀歡喜是總你“








