Anthropicé¦å¸æ§è¡å®Dario Amodeiå¨8æ16æ¥å ¬å¼ååºå´ç»AIè¡ä¸çä¿¡ä»»äºè®ºæ¶è¡¨ç¤ºï¼å丽çæ£é¢å®£ä¼ æ æ³éæ°èµ¢å¾å ¬ä¼ä¿¡ä»»ï¼âAIå°æ²»æççâå·²ç»åæ容æ被è§ä¸ºæ¬ºéªçéè¯ï¼çæ£ææçæ¹æ³æ¯å®é åå¾å»å¦ææãä»åæ¶æ¿è®¤ï¼å æ¬Anthropicå¨å çAIå ¬å¸å°æªå ç°è®¸å¤é ç¦ç¤¾ä¼çå®å¤§æ¿è¯ºï¼è¿æ¯å¤çæåç¡®çæ¹è¯ä¹ä¸ã
Amodei称Anthropicæ£å¨å¿«éå 强çç©å¦åå»å¦æå ¥ï¼å¸ææªæ¥å å¹´åºç°éè¦ç»æï¼å¹¶å¨æªæ¥å 个æçå°ä¸äºæ©æ迹象ãè¿æ¯ä¸é¡¹æ¹åæ§è¡¨æï¼ä¸æ¯ä¸´åºææå ¬åãå ¬å¸æ²¡æå¨è¿æ®µååºä¸å ¬å¸æ°è¯ãè¯éªæ°æ®ãç管ç³è¯·æå·²ç»æ²»ææç§çççè¯æ®ï¼å æ¤æ é¢ä¸çâæ²»æâå¿ é¡»ç解为ä»æåºçä¿¡ä»»æ åï¼èä¸æ¯å·²ç»å®æçç§å¦äºå®ã
è¿çªè¯ä¹æ以å¼å广æ³è®¨è®ºï¼æ¯å 为å®æAIè¡ä¸é¿æ使ç¨ç社ä¼ä»·å¼åäºåè¿æ¥åæäºèæ ¸ãè¿å»å ¬å¸å¸¸ç¨å éç§ç ãåç°è¯ç©åæ¹åå»çæ¥è§£éåºå¤§çç®åæå ¥ï¼ç°å¨å ¬ä¼è¶æ¥è¶å ³å¿è¿äºæå ¥æ¯å¦äº§çäºå¯å¤ç°çç 究ãè½å¦è¿å ¥ä¸´åºãæ¯å¦çæ£éä½æ£è ææ¬ã模åå¨åºåæµè¯ä¸æé«å 个ç¾åç¹ï¼ä¸ä¸ç§çæ³å®å ¨ææä¹é´åå¨æ¼«é¿è·ç¦»ã
ççä¹ä¸æ¯ä¸ä¸ªåä¸ç¾ç ãä¸åè¿ç¤çååæºå¶ãæ£è 群ä½ãæ²»çè·¯å¾åæ²»ææ åå·®å¼å¾å¤§ãAIå¯è½å¸®å©è¯å«é¶ç¹ãé¢æµèç½ç»æã设计åéååãéæ©è¯éªæ£è æåæç çå¾åï¼ä½ä»»ä½ä¸ä¸ªç¯èçæ¹è¿é½ä¸è½èªå¨çåäºæ²»æççãæå¤æçå»å¦è¿å±å缩æä¸å¥å£å·ï¼æ£æ¯Amodeiæ¤æ¬¡è¯å¾ä¸ä¹æå¼è·ç¦»çé®é¢ã
AIè¿å ¥å»å¦åï¼æé¾çä¸æ¯çæçæ¡èæ¯å»ºç«è¯æ®é¾
å¨è½¯ä»¶åºæ¯ä¸ï¼æ¨¡åè¾åºé误é常å¯ä»¥éè¿éè¯ã人工修æ¹æçæ¬åæ»å¤çãå»å¦ç åä¸åï¼åéè¯ç©å¯è½å¨ç»èå®éªææï¼å´å¨å¨ç©æ人ä½ä¸å¤±è´¥ï¼ä¸ä¸ªçä¼¼åç¡®çé¢æµä¹å¯è½åå°è®ç»æ°æ®åå·®ãæ ·æ¬éæ©åæµé误差影åãçæ£æä»·å¼çç³»ç»å¿ 须让ç 究人å追溯æ°æ®ãæ¹æ³åä¸ç¡®å®æ§ï¼èä¸æ¯åªç»åºä¸ä¸ªå¬èµ·æ¥åççç»è®ºã
è¯ç©ç åè¿åå°æ¶é´ç»æ约æã模åå¯ä»¥å¨å å°æ¶å çé大éååï¼ä½æ¯çãåéãç产工èºå临åºè¯éªä»éè¦ç°å®ä¸çéªè¯ãAIè¥ææ©æåç°å¨æ缩çä¸åï¼ä»ä¸ä»£è¡¨æ´ä½å®¡æ¹å¨æåæ¥ååãè¡ä¸åºè¯¥åå«æ¥åå¨åªä¸ªç¯èèçäºå¤å°æ¶é´ã失败çæ¯å¦ä¸éï¼ä»¥åç»ææ¯å¦ç±ç¬ç«å¢éå¤ç°ã
æ°æ®è´¨éåæ ·å ³é®ãå»çæ°æ®å å«éç§ã代表æ§ä¸è¶³åä¸åæºææ åä¸ä¸è´çé®é¢ãè¥æ¨¡å主è¦ä»å°æ°å»é¢æç¹å®äººç¾¤å¦ä¹ ï¼æ§è½å¯è½æ æ³æ¨å¹¿å°æ´å¹¿æ³æ£è ãä¼ä¸æ©å¤§çç©å»å¦æå ¥æ¶ï¼ä¸ä» éè¦æ´å¤è®¡ç®èµæºï¼è¿éè¦ä¸´åºä¼ä¼´ã伦çæ²»çãæ°æ®ææåé¿æé访è½åãè¿äºå·¥ä½å¾å¾æ¯è®ç»æ°æ¨¡åæ´æ ¢ï¼å´å³å®ç»æè½å¦è¿å ¥çå®å»çã
AIå ¬å¸çè§è²ä¹éè¦è¾¹çã模åå¯ä»¥æä¾ç ç©¶å·¥å ·åå设ï¼ä½å»ç责任æç»æ¶åå»çãè¯ä¼ãè¯éªæºæåç管é¨é¨ãè¥ä¼ä¸ç¨çªç ´æ§è¯è¨å¸å¼èµæ¬ï¼å´æ失败å½å äºåä½æ¹ï¼ä¿¡ä»»åªä¼è¿ä¸æ¥ä¸éãåè¿æ¥ï¼è¥å®æ¿æå ¬å¼é´æ§ç»æãæ¹æ³éå¶åéªè¯è¿ç¨ï¼åªæè¿å±æ²¡æå£å·é£ä¹å¿«ï¼ä¹æ´å®¹æ建ç«é¿æä¿¡èªã
ä»âç¸ä¿¡æªæ¥âå°âå±ç¤ºç»æâï¼AIå ¬å¸éè¦æ°çæ绩å
第ä¸ç±»æ绩ååºå½æ¯ç§ç 产åºï¼æ¯å¦æåºäºæ°çãå¯éªè¯ççç©å¦å设ï¼æ¯å¦æåè¡è¯è®®æç¬ç«å¤ç°ï¼æ¨¡åç¸æ¯ä¼ ç»æ¹æ³æé«äºä»ä¹ãä» å±ç¤ºæ¡ä¾æ¼ç¤ºä¸è¶³ä»¥å¤ææ®éä»·å¼ï¼å 为æåæ¡ä¾å¯è½ç»è¿éæ©ï¼å¤±è´¥å°è¯æ²¡æè¢«è®¡å ¥ã
第äºç±»æ¯è½¬åæçï¼åéååè¿å ¥ä¸´åºçæ¯ä¾ãç åæ¶é´åææ¬æ¯å¦ä¸éï¼ä»¥åAIåä¸åæ¯å¦åå°äºæ æè¯éªãå³ä½¿ææ¶æ²¡ææ²»æç¾ç ï¼è¥è½å¤ç¨³å®ç¼©çæä¸é¶æ®µå¹¶éä½å¤±è´¥çï¼ä¹æ¯çå®è´¡ç®ãä¼ä¸éè¦ç»åºåæ¯åå¯¹ç §ï¼èä¸æ¯åªå举å°æ°ææ项ç®ã
第ä¸ç±»æ¯æ£è ç»æãæç»æ åä¸æ¯æ¨¡åå¤èªæï¼èæ¯è¯ææ¯å¦æ´æ©ãæ²»çæ¯å¦æ´ææãå¯ä½ç¨æ¯å¦æ´å°ãå»çèµæºæ¯å¦æ´å¯åãæ£è ç»æé常éè¦å¤å¹´ç§¯ç´¯ï¼ä¹ä¼åå°å»çç³»ç»åä»·æ ¼å½±åãæ¿è®¤è¿ä¸å¨æï¼å¹¶ä¸åå¼±AIæ½åï¼åèè½é¿å æç§ç æ¿è¯ºåæè¥éåºå¡ã
Amodeiç表æå¼å¾å ³æ³¨ï¼ä¸æ¯å 为å®è¯æAIå³å°æ²»æççï¼èæ¯å 为ä¸ä½å¤´é¨å ¬å¸è´è´£äººå ¬å¼æ¥åäºæ´ä¸¥æ ¼çè¯ä»·æ¹å¼ï¼ä¸è¦ç¨å¹¿åè¦æ±å ¬ä¼æåç¸ä¿¡ï¼è¦ç¨ç»æèµ¢å¾ä¿¡ä»»ãæªæ¥å 个ææè°âæ©æ迹象âè¥åºç°ï¼ä»éæç 究è¯æ®èä¸æ¯å ¬å¸å£°éè¯ä¼°ãAIè¡ä¸çæ£æççæ å¿ï¼ä¹è®¸ä¸æ¯æ´å¤§èå°æè¿°åå¹´åçä¸çï¼èæ¯è½å¤æ¸ æ¥è¯´æä»å¤©å®æäºä»ä¹ã没æå®æä»ä¹ï¼ä»¥åä¸ä¸æ¥å¦ä½è¢«å¤é¨éªè¯ã