服务于全球各领域电子制造客户
公司新闻 行业动态 产品知识
前一天晚上,我让家里的AI彻夜干活——收拾NAS(收集存储办事器,简朴说就是“家用年夜型挪动硬盘”)里20年攒下的几十TB数据,包括照片、文档、视频,AI要一个个分类,已经经跑了整整6个小时。
成果,路由器忽然重启了。
我的条记本主动重连WiFi时,犯了个致命过错:它没连家里的主路由,反而连上了运营商的光猫收集。就这一个小掉误,致使NAS、AI办事器全数掉联,六个小时的事情功亏一篑,整个家庭AI体系像多米诺骨牌同样,完全崩了。
早上7点,我打开电脑,屏幕上全是“毗连掉败”的提醒——这是我用AI重修家庭数字糊口的第九天,前八天的欣喜,差点被这一个小bug浇灭。
这一切,还有要从八天前,一台新电脑的到来讲起。
02
我是天卓,一个持续创业者,也是一个技能极客。
(编者补:邓天卓更是一个挪动互联网时代的超等创业者+投资人,与海内各家电商都瓜葛匪浅。)
从最早的PowerPC电脑,到厥后的Intel旗舰机,再到近几年的M一、M二、M三、M4 Max MacBook Pro,我的主力机换了一代又一代,但有一个习气从没变——不重装体系。
每一次换电脑,我都像“倒酒”同样,用苹果的迁徙助手(Migration Assistant),把旧电脑里的所有工具,一成不变拷贝到新电脑里。
20年下来,我那台M4 Max MacBook Pro,已经经酿成了一个8TB的“数字迷宫”:几十万张专业相机照片、无数投资文档、上百个软件的配置、从2004年最先的开发情况,还有有许多我本身都记不清是甚么的海量数据。
之前,我只能靠不停买顶配电脑,才能装下这个“迷宫”。但本年,我不想再如许“摆烂”了——由于我收到了一台“神器”:M5 Max MacBook Pro(16英寸顶配,业内叫“天子版”)。
这台电脑最牛之处,是它有128GB的同一内存(可以理解为“电脑的年夜脑运行空间”,越年夜越流利)。
放于一年前,只有数据中央的专业GPU(图形处置惩罚器,相称在电脑的“算力心脏”),才能动员650亿参数的年夜模子(参数越多,AI越智慧);但此刻,这台家用条记本就能轻松做到——好比Qwen3.5-122B的4bit量化版,只需要65GB内存,运行速率彻底够用。
更主要的是,模子跑于当地(就是只于我本身的电脑上运行),数据不会传到网上,既不消费钱买利用额度,也不消担忧隐私泄露。
在是我萌发了一个斗胆的设法:让AI帮我,把旧电脑里的“数字迷宫”,完全迁徙到新电脑上,趁便收拾洁净。
03重头戏:
打开 Claude Code,我下达了阿谁本身期待已经久的号令:“帮我把M4上的一切,迁徙到M5 Max上。”
这及传统的迁徙方式,彻底纷歧样。
苹果的迁徙助手(Migration Assistant)就是个“黑盒”——它只会把旧电脑里的所有工具,一成不变拷贝已往,无论有效没用,也无论兼容不兼容。
但Claude Code纷歧样,它像一个经验富厚的体系治理员,先花10分钟给两台电脑“看诊”:
1.扫描旧电脑上的所有软件、代码情况、配置文件;
2.读取我的shell配置(电脑操作号令的设置)、SSH密钥(长途登录电脑的“钥匙”)、启动项;
3.阐发每个运用,判定哪些有效、哪些没用;
4.查抄磁盘康健状况,防止迁徙历程中出问题。
看诊竣事后,Claude Code忽然问我:“你的体系里有14个Intel时代遗留的Rosetta翻译层运用(之前Intel芯片电脑的软件,于Apple芯片上需要“翻译”才能用),它们随着你换了好几台电脑,从来没清算过。此中8个有原生Apple芯片版本,我建议装原生版;别的6个已经经住手更新,你确定还有要吗?”
那一刻我就知道,它真的把我那20年的“数字迷宫”走通了——它不是于“照搬”,而是于“理解”我的需求,帮我做弃取。
以后,Claude Code给我天生了一份三层排查清单,把要迁徙的内容分了类,连我本身都忘了的工具,它都找出来了:
1.基础层:SSH密钥、桌面文件、经常使用软件列表,这些最轻易想到的工具;
2.中间层:Git配置(代码治理东西的设置)、自界说剧本、按时使命,这些手动拷贝很轻易漏掉的工具;
3.深层层:60GB+的虚拟机文件、相机色采配置文件(用专业相机的人都知道,这工具丢了就无法还有原照片色调)、散落于电脑里的项目文件夹。
一最先,数据传输速率只有33MB/s,按这个速率,迁徙完要花好几天。
Claude Code阐发瓶颈后,自动做了三项优化,刹时把速率提了上来:
1.去失压缩功效:于万千兆局域网上,压缩反而会占用CPU,拖慢速率;
2.换轻量级SSH加密算法:默许的加密算法太“重”,换个简朴的,速率直接翻倍;
3.年夜文件直接传输:不消增量算法(原来是用来节省传输流量的),于局域网上反而过剩,直接传更快。
终极,传输速率到达了210MB/s,一个周末,就完成为了所有数据的迁徙。
04
此次迁徙,完全转变了我对于AI能力的认知——它不只是一个“东西”,更像一个“万能助手”,能解决许多我没想到的问题。
迁徙历程中,Claude Code需要下载一个年夜型框架包,正要从官方网站下载时,它忽然停了下来:“这个包咱们以前于你的另外一台呆板上下载过,我直接从那台电脑拷过来,不消再从网上下载了。”
它竟然记住了我家里所有装备的状况,自动挪用其他装备的资源,省了我年夜量时间。
我有一台Windows台式机,配备了RTX 5090显卡,但内存被主板锁于了4800MHz,比标称的6000MHz低了25%,贸易超频软件都没用(戴尔于BIOS里做了锁定)。
Claude Code发明后,长途毗连到这台电脑,下载了主板的BIOS固件,用十六进制编纂器反编译,找到隐蔽的内存频率节制寄放器,还有制订了一套完备的破解方案——全程都于我下达号令的终端窗口里完成,我彻底没加入。
迁徙历程中,Claude Code忽然陈诉:“你的第二块NVMe硬盘(高速固态硬盘)呈现了可修复的ECC过错(简朴说就是数据传输时呈现了小过错)。”
更厉害的是,它还有给出相识决方案:“这类过错凡是是由于安装时散热片压患上太紧,造成为了物理应力。建议关机后,松动散热片右下角的固定螺丝,向上推一下再拧紧。”
这不是软件问题,也不是驱动问题,而是物理安装问题——AI竟然能经由过程扫描,发明这个问题,还有去硬件论坛找相识决方案,精准定位到详细哪颗螺丝。
迁徙完成后,我发明一个不测欣喜:许多付费软件,我不再用买了——由于AI能帮我实现所有功效,还有更好用。
举几个例子:
1.文件重定名:之前用付费软件,要末依靠云端,要末功效有限;AI帮我装了开源东西,挪用当地年夜模子,中英文混淆定名都能弄定,零成本;
2.语音辨认/合成:之前用云端办事,定时长计费;此刻当地跑Qwen3-ASR(语音辨认)及Qwen3-TTS(语音合成),免费、及时,正确率还有更高,还有能克隆声音;
3.常识库治理:之前企业级方案每个月要几百美元;此刻用当地东西加嵌入模子,拖进文件就能问答,不花一分钱;
4.代码审查:之前贸易东西年费几千美元;Claude Code不仅能审查代码,还有能理解我的整个项目,帮我修bug、写测试。
实在原理很简朴:这些付费软件,都是AI不敷智慧的时代产品;此刻有了当地年夜模子,一个通用的智能,赛过一百个专用的东西。
05
迁徙完成后,一个偶尔的发明,让我萌发了让AI接受整个家的设法——那就是节制家里的智能电扇。
RTX 5090显卡全速运行时,温度会飙升到85度,很影响机能。我家里有一台智能电扇,AI帮我做了一件事:让电扇听GPU温度的批示。
步调很简朴(AI全程操作):
1.挟制通讯:这台电扇原来要连厂商的云端办事器,AI于路由器里加了一行设置,把厂商的域名指向我家的NAS;
2.和谈转换:于NAS上用开源东西,把电扇的私有和谈(厂商本身的通讯方式),转换成尺度的MQTT和谈(智能装备通用的通讯方式);
3.设置法则:写一个简朴的温度监控剧本,GPU温度75度开电扇低速,85度开高速,55度如下主动封闭。
一个数字年夜脑,竟然能治理本身的散热——技能不难,但我从中看到了AI融入糊口的诗意。
此刻家里的智能装备愈来愈多:灯、空调、摄像头、门锁、扫地呆板人,每个都有本身的APP,注册一堆账号,还有不克不及互通——所谓的“智能家电”,实在就是一堆各自为政的遥控器。
但节制电扇的测验考试让我大白:年夜大都智能装备的“云端”,实在就是个动静中转站。只要把通讯挟制到当地,这些装备就能离开厂商云端,本身联动。
在是我搭建了一套体系:用NAS上的Home Assistant(智能家居中枢)当焦点,MQTT broker(动静总线,让装备之间能互相“措辞”)当桥梁,再用开源东西把各类装备的私有和谈,都转换成尺度和谈。
这里的AI,不是简朴节制装备,而是“理解我的用意”。
传统智能家居是“if-then”法则(好比温度跨越28度开空调),但AI能理解上下文:好比电扇,AI知道“GPU于跑年夜模子,估计两小时竣事,先开低速,跑完再关”;好比灯,AI知道“周末孩子于家打游戏,客堂灯光调暖一点,晚上10点后主动调暗,提示睡觉”。
并且AI能记住我的偏好,会跟着我的习气逐步进化——这才是真实的“智能”。
我家里有两辆特斯拉及一个家用充电桩,之前天天都要花几分钟揣摩:谁先充电?充几多?何时充最省钱?明天要跑远程,要不要布满电?
此刻,这些事全交给AI了:
1.智能列队:AI从我的日历里读取第二天的行程,按照两辆车的电量,主动计划谁先充——通勤的车充到80%就够,要跑远程的充到100%;
2.错峰充电:AI接入电力公司的分时电价API,白日电价贵的时辰不充,凌晨自制的时辰主动最先(加州峰谷电价能差2-3倍,一个月能省不少钱);
3.状况监控:AI经由过程Tesla API,及时读取车辆的电池康健度、胎压、软件版本,有异样就自动提示;
4.将来计划:冬天可让AI提早给车预热(用充电桩的电,不耗电池);之后装了太阳能板,AI还有能按照气候预告,优先用太阳能充电。
这些设法,技能上都能实现,只是需要花时间搭建及调试——但AI已经经帮我完成为了年夜部门事情。
06
我让AI长途查抄了家里给孩子打游戏的台式机,成果吓出一身盗汗——内里藏着4个歹意软件,Windows Defender(电脑自带的杀毒软件)一个都没发明。
此中有混合过的PowerShell木马(注入到体系进程里,很难发明),还有有反杀毒软件(专门制止安全软件运行),以和假装成“AI助手”的告白软件及阅读器挟制步伐(暗藏了5个月)。
AI不仅找到了它们,还有理解了它们的运行机制,把每一一层歹意步伐都清算洁净了。
更厉害的是,这台电脑七天蓝屏六次,AI阐发了体系日记,定位到是PCIe电源治理的兼容性问题,修改了注册表及电源方案后,蓝屏再也没呈现过。
解决了智能装备的问题后,我又让AI帮我收拾家里NAS里的160TB数据——这是20年堆集的“数字财富”,之前我底子没时间收拾。
我一天能拍几百张照片,之前收拾照片要花几个小时。此刻,AI能用多模态能力(既能看图片,又能理解文字),主动完成选片、分类、调色——它还有能进修我20年的审美偏好,知道我喜欢甚么样的构图及色调。
找照片也变患上很简朴:我只要说“帮我找2015年全家于日本吃及牛的照片”,AI就能经由过程理解照片内容、时间、所在,精准找到我要的照片——不再用于海量照片里翻来翻去了。
我天天要用到四款AI:电脑上用Claude、ChatGPT写代码,手机上用Gemini处置惩罚一样平常,开特斯拉时用Grok聊投资——这些对于话散落于差别平台,原来互不相通。
但我让AI搭建了一套“影象体系”:天天按时从这四款AI的对于话记载里,提取要害信息,汇入NAS上的影象中枢(由向量数据库及常识图谱构成),再同步回所有AI节点。
也就是说,不管我于哪台呆板上、跟哪一个AI聊过甚么、踩过甚么坑,其他AI都能记住。
好比,我于MacBook上提过一嘴某个Python包(代码东西)的版本问题,两天后于办事器上干活时,AI自动提示我:“这个包于你的MacBook上有兼容性问题,我用另外一个版本。”
07
虽然AI帮我做了许多事,但它其实不是完善的——迁徙及利用历程中,它也犯了许多过错,这些过错,偏偏袒露了当前AI的弱点。
迁徙数十万张RAW照片(专业相机的原始照片)时,AI陈诉“全数拷贝完成”,但现实上,有一部门照片于传输历程中暗暗丢掉了——由于文件太多,AI没有做端到真个校验,就决定信念满满地公布了过错的结论。
总结:AI很智慧,但有时“经验不足”,不敷严谨。
MacOS有两个运用文件夹:体系级的/Applications(体系自带或者从App Store下载的运用),及用户级的~/Applications(非App Store下载的运用)。
AI只迁徙了前者,彻底漏掉了后者;每一次让它从头查抄,都能再翻出点漏掉的工具——这申明,AI于“确认工作做完”这件事上,还有不敷偏执。
每一次进级OpenClaw平台(我用来治理AI体系的框架),城市出点小问题:端标语被重置、时区变回UTC、配置文件被笼罩……
我及AI一路,记载了21种已经知的进级妨碍,然后写了一个主动修复剧本——进级后30秒内,就能主动修复所有问题。
实在,这些不是“bug”,而是运营成本——咱们不消覆灭所有问题,只要有能力主动处置惩罚它们就好。
08
把所有场景串起来,你会发明一个冲动人心的画面——这不是科幻影戏,是我此刻的一样平常:
早上7点,AI看了我的日历,知道我两小时后出门,提早给特斯拉预热,告诉我昨晚充的电够今天来回;咖啡机15分钟前主动启动,客堂的灯按日出时间亮起来。
白日事情时,我于M5 Max上用Claude Code写代码,当地AI随时待命;需要跑重型使命时,AI主动把使命转到GPU办事器,我底子不消管它于哪台呆板上运行。
下战书孩子下学打游戏,AI发明显卡被占用,主动把AI推理使命转到Spark,还有趁便查抄电脑安全——还有记患上以前那四个木马的教训。
薄暮电价岑岭,AI暂停特斯拉充电,把NAS备份推延到凌晨;深夜电价低谷,特斯拉主动充到80%,NAS最先跑备份,WiFi不再会连错收集。
周末,AI帮我收拾20年前的老照片,修复恍惚的画质,还有主动天生一本电子相册,送给家人。
今天的AI,还有有许多不完善,但每个环节的技能都已经经存于。咱们不需要等候“将来的Jarvis”,由于它就于咱们身旁——只要你愿意动手,用一台电脑、一套AI东西,就能把科幻酿成一样平常。
09
你可能会好奇,于最初履行迁徙使命时,我的AI助手是从哪找的。
我没有直接用现成的东西,而是本身搭建了一套家庭AI事情站——它不是一最先就设计好的,而是逐步试错、逐步完美,像“搭积木”同样凑起来的。
一最先,我用退役的M4 Max电脑跑Claude Code(一款能写代码的AI东西),还有部署了一些小模子做试验。但很快发明,M4 Max的算力不敷用,在是又加了一台搭载RTX 5090显卡(今朝最强的消费级显卡,32GB显存,显存越年夜,能同时运行的AI模子越多)的YLAI办事器。
我的方针很简朴:同时跑5个AI模子,分工互助:
1.谈天模子:帮我回覆问题、写代码;
2.语音辨认模子:把语音动静转成文字;
3.语音合成模子:把文字答复读出来;
4.文本嵌入模子:帮我收拾影象、成立索引(利便快速找工具);
5.Judge模子:判定哪些对于话、内容值患上记住。
但问题来了:一个26B参数的模子(比650亿参数小一些,但也很吃算力),就要占21GB显存,5个模子挤于32GB显存里,底子装不下。
我先试了用Ollama(一款经常使用的当地模子运行东西)治理所有模子,成果发明它会“踢人”——加载新模子时,会把旧模子从显存里挤出去,致使影象体系瘫痪。
厥后我又测验考试把小模子拆成自力办事,及Ollama分隔,但显存还有是不敷用。直到我忽然想通:不是所有模子都需要“占用焦点算力”。
文本嵌入模子及Judge模子,都是后台“偷偷干活”的,哪怕慢一点(从毫秒级酿成秒级),也不影响我利用。那爽性把它们放到CPU(电脑的“基础处置惩罚器”,日常平凡处置惩罚简朴使命)上跑,把GPU留给主力模子!
这一改,效果立竿见影:主力模子的运行速率从37t/s(tokens per second,每一秒处置惩罚的字符数,越快越好)飙升到205t/s,快了5.5倍,显存也完全够用了。
这是我踩了许多坑才总结的经验:假如你的电脑是Apple Silicon芯片(好比M一、M二、M三、M5系列),别装Ollama。
由于Ollama底层用的是llama.cpp,需要一层“翻译”才能挪用Apple的Metal GPU(苹果自研的显卡,专门适配自家芯片),会华侈许多机能。
保举用MLX——苹果专门为自家芯片做的AI框架,不消“翻译”,直接挪用Metal GPU,统一个模子,运行速率比Ollama快30%-50%,还有更省内存。
至在模子,直接去HuggingFace(一个AI模子同享平台)搜“mlx-co妹妹unity”,内里有所有主流模子的MLX版本,直接下载就能用。
颠末不停调试,我终究确定了最合适家用的配置,既够用又不华侈:
厥后我想跑全精度版本的 Qwen3.5-122B-A10B-FP8(参数更多、更智慧,处置惩罚使命更精准),单张RTX 5090显卡已经经装不下了。
我家里有两台NVIDIA DGX Spark(专业AI办事器,每一台有GB10 GPU及122GB同一内存),理论上把它们连起来,就能跑全精度年夜模子。
但实际全是坑:好比驱动署名不兼容、内存辨认过错、推理引擎版本bug……光调试这些问题,就花了我好几天。
终极,两台Spark连起来,跑Qwen3.5-122B-A10B-FP8(全精度版本),运行速率13-15t/s,不算快,但胜于质量高。我伴侣说,一年前,如许的配置于数据中央要花几十万。
由于数据愈来愈多,我还有加了一台NAS(8盘位RAID,简朴说就是“8个硬盘构成的超年夜存储”),一最先我把它当“万能选手”,让它跑各类AI容器(好比推理引擎、数据库)。
成果惨了:NAS的32GB内存被占满,嵌入式CPU跑推理慢患上离谱,启动一个办事要一分钟(GPU上只要3秒),并且硬盘一直转,嗡嗡响个不断,无法休眠。
厥后我觉悟了:NAS就该干它的本职事情——存储及备份、运行Qdrant向量数据库(帮我治理影象)、做IoT中枢(毗连智能装备),其他活全交给YLAI办事器及Spark,硬盘终究能正常休眠了。
这套体系一直用到今天,然后我换了 M5 Max,128GB 同一内存让年夜模子能跑于条记本上。颠末实测,1220 亿参数模子于 M5 Max 上加载 17 秒,推理速率 31t/s,思索链、图片理解、东西挪用万能力解锁。
转头看,整个体系不是被设计出来,而是一点点长出来的。
今天每一一台装备都找到了最合适本身的位置。
要害不是所有工具一次到位,而是先让焦点跑起来,Claude Code、一个当地模子加一个界面就够了,然后你的 AI 事情站就会按照现实需求,逐步长出本身的架构。就像我此刻的 fleet,也是从一台 M4 Max 最先,花了几个月一台一台加之去的。
一样的技能,于差别人的手里,用法也纷歧样,我的经验纷歧定合适所有人。但同样的是各人的出发点:先用起来,再说另外。
雷峰网文章
雷峰网特约稿件,未经授权禁止转载。详情见转载须知。
下一篇【产品推荐】超小型高频同轴连接器u.fl系列
www@C17com官方
Maggie
微信咨询
黎小姐