核心内容摘要
那些让人脸红心跳的“口头承诺”，和它背后不容忽视的“小确幸”
💡💡💡问题点：基äº�CNN的方法由äº�å�·ç§¯æ“�作的固有局é™�性，难以有效æ�•æ�‰å…¨å±€ä¸Šä¸‹æ–‡ä¿¡æ�¯ï¼›è€ŒåŸºäº�Transformer的方法则å˜åœ¨å±€éƒ¨ç‰¹å¾�建模ä¸�足的问题，å�Œæ—¶é�¢ä¸´è‡ªæ³¨æ„�力机制带æ�¥çš„高计算å¤�æ�‚度挑战。💡💡💡引入多尺度线性注æ„�力机制，旨在以ä½�计算å¤�æ�‚度高效æ��å�–图åƒ�ä¸çš„多尺度特å¾�，å�Œæ—¶å»ºæ¨¡é•¿ç¨‹ä¾�赖关系；多尺度线性注æ„�力机制（MSLA）包å�«ä¸¤ä¸ªä¸»è¦�æ“�作æµ�程：多尺度特å¾�æ��å�–和线性注æ„�力计算。å‰�者通过æ�•è�·å¤šå°ºåº¦å±€éƒ¨ç»“æ�„细节æ�¥æ��å�‡åˆ†å‰²æ€§èƒ½ï¼Œå��者利用具有近似全局感å�—é‡�的线性注æ„�力机制（其感å�—é‡�ä¸�Softmax注æ„�力机制相近）æ�¥å»ºæ¨¡é•¿ç¨‹ä¾�赖关系，å�Œæ—¶æ˜¾è‘—æ��å�‡è®¡ç®—效ç�‡ğŸ’¡ğŸ’¡