Xinference-v1.17.1保姆级部署教程：5分钟搞定开源大模型推理平台

ä»�“上å¸�视角â€�è·Œè�½å‡¡é—´ç¦»æ•£ vs. è¿�续在纯粹的数字世界里一切都是离散且完ç¾�的。 å½“ä½ åœ¨ Python 里写下a 5a永远是 5ä¸�会是

999也ä¸�会在 10 毫秒å��æ‰�å�˜æˆ� 5ã€‚å½“ä½ è¾“å…¥ä¸€ä¸ª TokenTransformer æ�¥æ”¶åˆ°çš„就是这个确定的整数 ID。在这个世界里时间是逻辑步数Step没有物ç�†æ—¶é’Ÿã€‚但在具身智能的世界里机器人é�¢å¯¹çš„是物ç�†å®šå¾‹æ²¡æœ‰å®Œç¾�çš„å€¼å™ªå£°ä¼ æ„Ÿå™¨è¯»æ•°æ°¸è¿œåœ¨è·³åŠ¨ç”µæœºæ°¸è¿œæ— æ³•ç²¾ç¡®è¾“å‡ºä½ æŒ‡ä»¤çš„æ‰­çŸ©ã€‚æ²¡æœ‰ç�¬é—´çš„动作延迟光速是快的但电路ã€�计算ã€�æœºæ¢°ä¼ åŠ¨æ˜¯æ…¢çš„ã€‚æ ¸å¿ƒæ´�察在 LLM 中错误通常æº�äº�逻辑Hallucination在机器人中错误往往æº�äº�物ç�†Physics——å�³ä½¿é€»è¾‘完全正确延迟和噪声也能让系统崩溃。

延迟Latencyéš�形的æ�€æ‰‹æƒ³è±¡ä½ 在ç�©ä¸€ä¸ªç½‘络延迟æ��高的射击游æˆ�Ping 值 500msã€‚ä½ çœ‹åˆ°æ•Œäººå¼€æ�ªä½†ä»€ä¹ˆä¹Ÿæ²¡æ‰“ä¸­å› ä¸ºä½ çœ‹åˆ°çš„â€œæ•Œäººâ€�å…¶å®�是

5 秒å‰�çš„æ®‹å½±ã€‚æœºå™¨äººæ— æ—¶æ— åˆ»ä¸�在ç�©è¿™ä¸ªâ€œé«˜å»¶è¿Ÿæ¸¸æˆ�â€�。具身系统的“总延迟â€�æ�„æˆ�一个典å�‹çš„ Sense-Act 循ç�¯å»¶è¿Ÿ () 由以下部分串è�”而æˆ�感知延迟 ()光线进入摄åƒ�头æ›�光读出数æ�®ä¼ 输到内存。这通常需è¦� 30ms - 100ms。计算延迟 ()ç¥�ç»�网络æ�¨ç�†Inference。如æ�œä½ 用大模å�‹å�šå†³ç­–这里å�¯èƒ½é«˜è¾¾ 200msç”šè‡³æ•°ç§’ã€‚ä¼ è¾“å»¶è¿Ÿ ()CPU/GPU 将指令å�‘给底层æ�§åˆ¶å™¨å¦‚ CAN 总线ã€�Ethernet。机械延迟 ()这是最容易被忽视的。电æµ�æµ�过线圈电机产生ç£�场克æœ�é�™æ‘©æ“¦åŠ›é½¿è½®å’¬å�ˆæœ€å��手臂真正动起æ�¥ã€‚物ç�†æƒ¯æ€§å¯¼è‡´äº†å¿…然的æ»�å��。为什么延迟会引å�‘ç�¾éš¾åœ¨æ�§åˆ¶ç�†è®ºä¸­å»¶è¿Ÿä¼šå¯¼è‡´ç›¸ä½�æ»�å��Phase Lag。 å�‡è®¾æœºå™¨äººè¦�抓å�–一个移动的物体。如æ�œæ²¡æœ‰å»¶è¿Ÿå®ƒèƒ½å®�æ—¶è·Ÿè¸ªã€‚åŠ ä¸Šå»¶è¿Ÿå��当机器人“看到â€�物体å��左并试图å�‘左修正时物体å�¯èƒ½å·²ç»�å›�到中间了。结æ�œæœºå™¨äººå�‘左猛冲å�‘ç�°å��得更远了å�ˆå�‘å�³çŒ›å†²â€¦â€¦è¿™å°±æ˜¯å�¯æ€•çš„震è�¡Oscillation。在æ��端情况下系统会å�‘æ•£Diverge——机器人会剧烈抖动直至把自己拆散。

噪声Noise世界充满了è°�言如æ�œè¯´å»¶è¿Ÿæ˜¯â€œè¿Ÿé’�â€�那噪声就是“幻觉â€�。在物ç�†ä¸–界中没有任何测é‡�是ç»�对准确的。A. 观测噪声Observation Noiseä½ çš„çœ¼ç�›æ‘„åƒ�头和耳朵麦克é£�都在“撒è°�â€�。深度相机Depth Camera对ç�€ä¸€é�¢ç™½å¢™æˆ–å��光镜å­�ä½ ä¼šçœ‹åˆ°å¾ˆå¤šé»‘æ´�或错误的è·�离值。激光雷达LiDAR雨雪雾天会产生大é‡�的噪点。IMU惯性测é‡�å�•å…ƒå“ªæ€•æœºå™¨äººé�™æ­¢ä¸�åŠ¨åŠ é€Ÿåº¦è®¡è¯»æ•°ä¹Ÿä¼šåœ¨ 0附近疯狂跳动高斯白噪声。数学上我们ä¸�å†�说观测值等äº�真å®�状æ€�而是B. 执行噪声Process/Actuation Noiseä½ æƒ³èµ°ç›´çº¿ä½†ä½ èµ°ä¸�出直线。摩擦力ä¸�å�‡åœ°é�¢ä¸€è¾¹æ»‘一边涩。电机死区å�ªæœ‰ç”µå�‹è¶…过一定阈值电机æ‰�会转动。磨æ�Ÿä¸�间隙齿轮之间的空隙Backlashå¯¼è‡´ä½ æŒ‡ä»¤è½¬ 1 度å®�é™…è½®å­�没动。数学上下一个状æ€�ä¸�仅仅由当å‰�状æ€�和动作决定这æ„�味ç�€å…·èº«æ™ºèƒ½ä¸�ä»…è¦�规划Planæ›´è¦�æ�¨æ–­Infer和修正Correct。这也是为什么我们在å��é�¢ç« 节需è¦�å­¦ä¹ â€œå�¡å°”曼滤波â€�和“概ç�‡æœºå™¨äººå­¦â€�çš„å�Ÿå› 。

具身智能的应对之é�“Sim-to-Real Gap这引出了具身智能领域最著å��的问题Sim-to-Real Gap虚å®�è¿�移鸿沟。我们在仿真器Simulation里训练机器人时就åƒ�在一个没有延迟ã€�没有噪声的完ç¾�真空中。机器人在仿真里学会了跑酷但一部署到真机上往往会åƒ�é†‰æ±‰ä¸€æ ·æ‘”å€’ã€‚ä¸ºä»€ä¹ˆå› ä¸ºä»¿çœŸå™¨é‡Œçš„ç‰©ç�†å¼•æ“�Physics Engine是基äº�简化公å¼�çš„å®ƒæ— æ³•å®Œç¾�模拟ç�°å®�世界中å¤�æ�‚的空气动力学ã€�软体形å�˜ã€�温度对电路的影å“�以å�Šå»¶è¿Ÿå’Œéš�æœºå™ªå£°ã€‚æ­£å› ä¸ºå»¶è¿Ÿå’Œå™ªå£°çš„å­˜åœ¨å¯¼è‡´äº†å…·èº«æ™ºèƒ½çš„æŠ€æœ¯æ ˆå¿…é¡»æ��å…¶å¤�æ�‚å› ä¸ºæœ‰å»¶è¿Ÿæˆ‘ä»¬ä¸�能指望 AI åƒ�å›�å�ˆåˆ¶æ¸¸æˆ�ä¸€æ ·æ€�考。我们需è¦�高频æ�§åˆ¶50Hz ~ 1000Hz和预测未æ�¥ç¬¬9ç« ä¸–ç•Œæ¨¡å�‹ã€‚å› ä¸ºæœ‰æ„ŸçŸ¥å™ªå£°æˆ‘ä»¬ä¸�能直æ�¥ä¿¡èµ–ä¼ æ„Ÿå™¨ã€‚æˆ‘ä»¬éœ€è¦�滤波算法å�¡å°”曼滤波æ�¥è��å�ˆå¤šä¼ 感器数æ�®ä»�噪声中æ��å�–çœŸç›¸ã€‚å› ä¸ºæœ‰æ‰§è¡Œå™ªå£°æˆ‘ä»¬ä¸�能å�ªå�šå¼€ç�¯è§„划。我们需è¦�é—­ç�¯å��馈PIDå’Œé²�棒性策略RLæ�¥ä¸�断修正误差。ChatGPT 犯错å�¯èƒ½å�ªæ˜¯è¯´äº†ä¸€å�¥èƒ¡è¯�机器人犯错由äº�延迟或噪声å�¯èƒ½ä¼šæ’�ç¢�ç�»ç’ƒã€�æ�Ÿå��è‡ªèº«ç”šè‡³ä¼¤å®³äººç±»ã€‚ä¹ é¢˜å�‡è®¾ä½ 正在通过远程æ“�æ�§Teleoperationæ�§åˆ¶ä¸€å�°ä½�äº�ç�«æ˜Ÿçš„æ�¢æµ‹è½¦ã€‚地ç�ƒåˆ°ç�«æ˜Ÿçš„ä¿¡å�·ä¼ 输延迟约为 10 分钟å�•ç¨‹ã€‚é—®é¢˜ä¸ºä»€ä¹ˆä½ ä¸�能åƒ�ç�©èµ›è½¦æ¸¸æˆ�ä¸€æ ·å®�æ—¶æ�§åˆ¶å®ƒå¦‚æ�œæ�¢æµ‹è½¦å‰�æ–¹ 5 米处çª�然出ç�°æ‚¬å´–è€Œåœ¨ä½ çš„å±�幕上æ�¢æµ‹è½¦è¿˜åœ¨å¹³åœ°ä¸Šè¡Œé©¶ä¼šå�‘生什么进阶这ç§�情况下æ�¢æµ‹è½¦åº”è¯¥å…·å¤‡ä»€ä¹ˆæ ·çš„â€œè‡ªä¸»æ�ƒAutonomyâ€�æ‰�能生存æ��示æ€�考 Reflex System ä¸� Conscious System 的区别。

在 20 分钟的通信闭ç�¯é‡Œä½ å�‘出的指令是基äº�“过å�»â€�的状æ€�10分钟å‰�执行的动作将å�‘生在“未æ�¥â€�10分钟å��。如æ�œä½ çš„å±�幕显示å‰�方平å�¦å®�é™…ç�«æ˜Ÿè½¦å�¯èƒ½å·²ç»�åˆ°äº†æ‚¬å´–è¾¹ã€‚å½“ä½ çœ‹åˆ°æ‚¬å´–å¹¶æŒ‰ä¸‹â€œå�œæ­¢â€�é”®æ—¶æŒ‡ä»¤ä¼ åˆ°ç�«æ˜Ÿå�ˆæ˜¯ 10 分钟å��了——此时车早已å� æ¯�。

地ç�ƒç«¯High-Level人类ä¸�å�‘é€�具体的电机指令如“左轮转速 50rpmâ€�而是å�‘é€�任务指令如“移动到å��æ ‡ [x,y] 处的岩石â€�。ç�«æ˜Ÿè½¦ç«¯Low-Level / Real-time必须具备局部自主æ�ƒLocal Autonomy。它需è¦�一个高频的本地å��射弧Reflex Loopåˆ©ç”¨æœ¬åœ°ä¼ æ„Ÿå™¨æ¿€å…‰é›·è¾¾/视觉å®�时检测障ç¢�ã€‚ä¸€æ—¦æ£€æµ‹åˆ°æ‚¬å´–æ— è®ºäººç±»æœ‰æ²¡æœ‰æŒ‡ä»¤å¿…é¡»ç«‹å�³è¦†ç›–Overrideå�Ÿæœ‰è·¯å¾„触å�‘急å�œæˆ–é�¿éšœã€‚这就是具身智能中的“系统快慢æ€�考â€�。底层æ�§åˆ¶å¿…é¡»æ��快且就在本地脊髓å��射高层规划å�¯ä»¥æ…¢ä¸”在云端/大脑皮层æ€�考。

9·1免费安装官方版-9·1免费安装官方版应用