Ò»¸ö¡°¼¼ÊõÎÊÌ⡱£¬µ¼Ö°ͷÆÌØ µÄ²®¿ËÏ£¶û-¹þÈöΤ¹«Ë¾¹É¼Û±©µø½ü100% ¡£
Ïë±ØºÜ¶àС»ï°éÒѾ¸ÐÊܹýÁËÕâÔòÆÌÌì¸ÇµØµÄÏûÏ¢£¬Ëù´øÀ´µÄÒÚµãµãÕ𺳠¡£
¶ø¸ù¾ÝʺóµÄÏûÏ¢À´¿´£¬Õâ¸ö´ó¹ÊÕÏÊÇŦ½»ËùµÄºÏ²¢±¨¼Ûϵͳ£¨CTA£©ÔÚ¸üÐÂÈí¼þ ʱ³öÏÖÁËÎÊÌâ¡£
Ðí¶àר¼Ò¶¼¶Ô´Ë×öÁË·ÖÎö£¬ÓÐÈËÈÏΪÊÇCTAÈí¼þÔÚ½øÐа汾¸üÐÂʱ³öÏÖÁËÊý¾ÝÒ»ÖÂÐÔÎÊÌ⣻ҲÓÐÈËÌá³ö×î´óµÄÎÊÌâÓ¦¸ÃÊdzöÏÖÔÚÁËÊý¾Ý¿â¡£
µ«×ܶøÑÔÖ®£¬Õâ²¢·ÇÊÇŦ½»Ëù½ñÄêÀ´µÚÒ»´Î³öÏֵĹÊÕÏ£¬¶øÊÇÖÚ¶àÀïµÄÒ»¸ö£º
ÉõÖÁij¿ªÔ´Êý¾Ý¿âÁªºÏ´´Ê¼ÈËJasonÖ±ÑÔ²»»äµØ±íʾ£º
>Ŧ½»ËùÔÚCTAÈí¼þÉÏÏà¹ØµÄITˮƽ»¹²»¼°ÖйúµÄ´óÐͽðÈÚ»ú¹¹ºÍ»¥ÁªÍø¹«Ë¾£¬ÔÚÖйúÒѾºÜÉٻᷢÉúÕâÖֵͼ¶´íÎóÁË¡£
¼´±ãÈç´Ë£¬ÕâÒ²²»½ûÁîÈ˲úÉú¸ü´óµÄ¹ËÂǺ͵£ÓÇ¡ª¡ª
´«Í³Èí¼þÎÊÌâÉÐÄÜÒý·¢Èç´Ë´óµÄÎÊÌ⣬ÄÇôվÔÚ´óÄ£ÐÍʱ´úµ±Ï£¬AI+½ðÈÚ£¬ÊÇ·ñÓÖÄÜ×öµ½×¼È·¿ÉÐÅ£¿
ÕýËùνʵ¼ùÊǼìÑéÕæÀíΨһ±ê×¼£¬Òª»Ø´ðµÄÕâ¸öÎÊÌ⣬ÎÒÃDz»·ÁÁ˽âÒ»ÏÂÒѾÔÚ½ðÈÚÁìÓò¡°Éϸڡ±Á˵ÄAI´óÄ£ÐÍ¡£
´óÄ£ÐÍÉϸڽðÈÚ£¬¶¼ÔÚ×öʲô£¿
³ÏÈ»AI´óÄ£Ð͵ķ¢Õ¹ÒÑÈ»³ÊÏÖÊƲ»¿Éµ²µÄÇ÷ÊÆ£¬µ«ÔÚ½ðÈÚÁìÓòÕæÕýÓ¦ÓõÄʱºò£¬ÒÀ¾É´æÔÚһЩÏÔÖøµÄÀ§ÄѺÍÌôÕ½¡£
ÀýÈçÊý¾ÝÒþ˽ºÍ°²È« ·½Ã棬½ðÈÚÊý¾ÝÍùÍù¸ß¶ÈÃô¸Ð£¬Éæ¼°¸öÈ˺ÍÆóÒµµÄ²ÆÎñÐÅÏ¢£¬È·±£Êý¾ÝÒþ˽ºÍ°²È«ÊÇÊ×ÒªÌôÕ½Ö®Ò»¡£
²¢ÇÒÕâЩÊý¾Ý¾ßÓжàÔ´ºÍÒì¹¹µÄÌص㣬ÐèÒª½øÐÐÓÐЧµÄÕûºÏºÍ´¦Àí£¬²ÅÄÜÈ·±£ËüÃǵÄ׼ȷÐÔºÍÍêÕûÐÔ¡£
ÔÙÈçÄ£Ðͱ¾Éí £¬´óÄ£ÐÍÍùÍù±»ÊÓΪ¡°ºÚÏ䡱£¬ÒòΪÆäÄÚ²¿¾ö²ß¹ý³ÌÄÑÒÔ½âÊÍ£»ÔÚ½ðÈÚÁìÓò£¬ÓÈÆäÊÇÉæ¼°·çÏÕ¹ÜÀíºÍ¼à¹ÜºÏ¹æʱ£¬¿É½âÊÍÐԺ;ö²ß͸Ã÷ÐÔÊǷdz£ÖØÒªµÄ¡£
»¹ÓÐÔÚʵʱÐÔºÍ×ÊÔ´ÏûºÄ ·½Ã棬½ðÈÚÊг¡Ë²Ï¢Íò±ä£¬ÐèҪʵʱÊý¾Ý´¦ÀíºÍ¾ö²ßÖ§³Ö£¬´óÄ£Ð͵ÄÍÆÀíÉæ¼°µ½´óÁ¿µÄ¾ØÕó³Ë·¨¼ÆË㣬¶ÔÓ²¼þµÄ¾ØÕó³Ë·¨¼ÆËãÄÜÁ¦Ìá³ö½Ï¸ßÒªÇ󣬼ÆË㸴ÔÓÐÔ¿ÉÄܵ¼ÖÂÏìӦʱ¼äÑÓ³Ù£¬²»ÀûÓÚʵʱӦÓá£
¼ÓÖ®´óÄ£ÐÍѵÁ·ºÍÍÆÀí¹ý³ÌÐèÒª´óÁ¿µÄ¼ÆËã×ÊÔ´ºÍÄÜÁ¿ÏûºÄ£¬Õâ¶ÔÆóÒµµÄ³É±¾ºÍ»·±£ÒªÇóÌá³öÁËÌôÕ½¡£
¶ø³ÉÁ¢ÓÚ1998ÄêµÄÀÏÅƽðÈڿƼ¼¹«Ë¾½ðÖ¤ £¬Ãæ¶ÔÉÏÊö¹ÌÓеÄÖØÖØÀ§ÄÑ£¬È´ÓÐ×Å×Ô¼ºµÄÒ»Ì׽ⷨ¡£
ÔÚ½ðÖ¤¿´À´£¬´óÄ£Ð͵ÄÓÅÊÆÔÚÓÚÎı¾¼°·Ç½á¹¹»¯Êý¾Ý´¦ÀíÄÜÁ¦¡¢ÈË»ú½»»¥ÄÜÁ¦¡¢Éú³ÉÄÜÁ¦ºÍÂß¼ÍÆÀíÄÜÁ¦½ÏÇ¿¡£
¶øÏà±ÈСģÐͶøÑÔ£¬´óÄ£ÐÍÒ²´æÔÚÃ÷ÏÔµÄÁÓÊÆ£¬ÀýÈç´óÄ£ÐÍ¡°»Ã¾õ¡±ÎÊÌ⣨¼´´óÄ£ÐÍ´ð·ÇËùÎÊ£©£¬´óÄ£Ð͵IJ¿ÊðËãÁ¦ÒªÇó¸ßÔì³ÉËãÁ¦×ÊÔ´ÀË·Ñ£¬²¿Êð³É±¾¸ßµÈÎÊÌâ¡£
Òò´Ë£¬½ðÖ¤µÄ½â·¨¾ÍÊÇ¡ª¡ªÍ¨¹ý×éºÏʽAI £¬¼´´óÄ£ÐÍ+СģÐÍ+¹¤¾ß £¬ÒÔ´ËÀ´Ö§³Å¸÷¸öÒµÎñ³¡¾°AIÐèÇó¡£
´óÄ£ÐÍ·½Ã棬°üº¬½ð֤ȥÄêÄêµ×ÍƳöµÄK-GPTÒÔ¼°ÒµÄÚÖڶඥÁ÷µÄ´óÄ£ÐÍ£¬ÔÚÌض¨µÄ½ðÈÚÈÎÎñÖз¢»Ó´óÄ£Ð͵ÄÌس¤¡£
СģÐÍÔòÊÇÖ¸ÖîÈçOCR¡¢NLP¡¢ÈËÁ³Ê¶±ð¡¢ÎÄ×Öʶ±ð¡¢²ÆÎñ·ÖÎöµÈ´«Í³Ä£ÐÍ£¬¿ÉÒÔϸ·ÖÈÎÎñ×öµ½¿ì×¼ºÝµØ´¦Àí¡£
ÖÁÓÚ¹¤¾ß£¬ÔòÊÇÖ¸µØͼ¡¢ÌìÆø¡¢CRM¡¢Óʼþ¡¢OAµÈ¡£
Ò»ÑÔ±ÎÖ®£¬ÔÚij¸ö½ðÈÚÁìÓòÈÎÎñÖУ¬ÕâÖÖģʽ¿ÉÒÔÈôóÄ£ÐÍ¡¢Ð¡Ä£Ðͺ͹¤¾ß×öµ½¡°×¨ÒµµÄÈ˸ÉרҵÊ¡±£¬ÓÈÆäÄܼ«´óµØÌá¸ßЧÂÊ¡£
ÖµµÃÒ»ÌáµÄÊÇ£¬Ïà±ÈÓÚͨÓôóÄ£ÐÍ£¬½ðÖ¤µÄK-GPTÔÚÊý¾Ý²éѯµÄ׼ȷÐÔ·½Ãæ±íÏÖ¸ü¼Ñ£¬Äܹ»¸üºÃµØÀí½â½ðÈÚÊõÓÌṩרҵÇÒÊý¾ÝÔúʵµÄ»Ø¸´¡£
¾ÝÁ˽⣬K-GPT »¹Ö§³Ö²é¿´ÒýÓõÄ֪ʶԴ£¬²¢¾ß±¸ÓëʵʱÊý¾ÝºÍÄ£¿é»¯¼¯³ÉµÄÄÜÁ¦£¬¿ÉÒÔµ÷ȡʵʱÊý¾ÝºÍ×é¼þ¡£
ÒÀÍÐÅÓ´óµÄ½ðÈÚ֪ʶ¿â£¬K-GPTרΪ½ðÈÚ³¡¾°·þÎñ£¬ÆäºËÐÄÓÅÊÆÔÚÓÚ¶Ô½ðÈÚµÄÉîÈëÀí½â¡¢Êý¾Ý׼ȷ¡¢¿ÉÑéÖ¤ÐÔÒÔ¼°Ö§³Öµ÷ÓÃAgent¹¦ÄÜ¡£
´ÓЧ¹ûÉϲ»ÄÑ¿´³ö£¬½ðÖ¤ÒÑÈ»ÈôóÄ£ÐÍÔÚ½ðÈÚÁìÓòÖкϸñµØÉϸڣ¬ÄÇôÕë¶Ô³É±¾ºÍ×ÊÔ´ÉϵÄÍ´µã£¬½ðÖ¤ÓÖÊÇÈçºÎ½â¾öµÄÄØ£¿
±³ºóÊǸߴø¿íÄڴ棨HBM£©µÄÖÁÇ¿´¦ÀíÆ÷ÔÚ·¢Á¦
½ðÖ¤K-GPT·½°¸ÖУ¬»¹ÓÐÒ»µã±È½ÏÌرð£ºÓëÓ¢ÌضûºÏ×÷£¬²ÉÓÃÁË»ùÓÚCPUµÄ´óÄ£ÐÍÍÆÀí·½°¸¡£
¾ÝÁ˽⣬ËûÃÇÖ÷ÒªÊÇ¿´ÖеÄÊÇÓ¢Ìضû® ÖÁÇ¿® CPU Max ϵÁд¦ÀíÆ÷¡£
ÕâÊÇÓ¢ÌضûΨһһ¿î»ùÓÚx86¼Ü¹¹²¢²ÉÓøߴø¿íÄڴ棨HBM£©µÄCPUϵÁУ¬²ÉÓÃÁËƬÉÏHBMÉè¼Æ£¬ÄÚ´æ´ø¿í¸ß´ï4TB/s¡£ºÍ´«Í³DDR5ÄÚ´æÏà±È£¬HBM¾ßÓиü¶àµÄ·Ã´æͨµÀºÍ¸ü³¤µÄ¶Áȡλ¿í£¬ÀíÂÛ´ø¿í¿É´ïDDR5µÄ4±¶Ö®¶à¡£
ÒªÖªµÀ£¬´óÄ£ÐÍÍÆÀíÉæ¼°´óÁ¿µÄȨÖØÊý¾Ý¶ÁÈ¡£¬¶ÔÓ²¼þƽ̨µÄÄÚ´æ·ÃÎÊ´ø¿íÌá³öÁ˺ܸߵÄÒªÇó¡£
ÖÁÇ¿® CPU Max¾ßÓÐ64GB HBM£¬Ã¿¸öÄں˿ÉÒÔ·Ö̯µ½³¬¹ý1GBµÄÄڴ棬¶ÔÓÚ°üÀ¨´óÄ£ÐÍÍÆÀíÈÎÎñÔÚÄڵľø´ó¶àÊý¼ÆËãÈÎÎñ£¬HBM¶¼¿ÉÒÔÈÝÄÉÈ«²¿µÄȨÖØÊý¾Ý¡£
ÄÚ´æ´ø¿í»¹²»Êǽð֤ѡÔñÕâ¿îCPUµÄÈ«²¿ÀíÓÉ¡£
Ó¢Ìضû® ÖÁÇ¿® CPU MaxϵÁл¹ÄÚÖÃÁËÓ¢Ìضû® ¸ß¼¶¾ØÕóÀ©Õ¹ (Ó¢Ìضû®️ AMX)ÒýÇ棬´ó·ùÌáÉýÁË´ó¹æÄ£¾ØÕó³Ë·¨ÔËËãÐÔÄÜ¡£
½ðÖ¤K-GPT»ùÓÚTransformer¼Ü¹¹£¬ÆäºËÐÄÌصã°üÀ¨¶àÍ·×¢ÒâÁ¦»úÖƺÍÇ°À¡Éñ¾ÍøÂç²ã£¬ÕâÆäÖж¼°üº¬´óÁ¿¾ØÕóÔËË㣬¶øÓ¢Ìضû®
AMXͨ¹ý1024λTMULÖ¸ÁîºÍ8¸ö¶ÀÁ¢µÄ¾ØÕó¼ÆËãµ¥Ôª£¬¿ÉÒÔÿʱÖÓÖÜÆÚÖ´ÐÐ8´Î¶ÀÁ¢µÄ¾ØÕó³ËÀÛ¼Ó²Ù×÷£¬ÎªÕâЩÔËËãÌṩǿ´óµÄ¼ÓËÙÄÜÁ¦¡£
Èç´ËÒ»À´£¬´óÄ£ÐÍÍÆÀíµÄЧ¹ûÈçºÎÄØ£¿
ÔÚÖ»Óõ¥¿Å CPU µÄÇé¿öÏ£¬ÍÆÀí130ÒÚ²ÎÊý´óÄ£ÐÍ£¬Ê׸ö´ÊÔªÉú³Éʱ¼ä¾ÍÄÜѹµ½1Ãë×óÓÒ£¬Ä£ÐÍÍÆÀíTPS³¬¹ý10
tokens/s£¬Óû§ÌáÎʺóÔ¼2ÃëÄÚ¾ÍÄܵõ½ÏìÓ¦¡£
±ðÍüÁËÓöµ½¸ºÔظ߷åµÈÇé¿ö£¬»¹¿ÉÒÔͬʱÆôÓÃ2¿ÅCPU£¬ÐÔÄÜ»¹ÄÜÌáÉý½«½üÒ»±¶£¬¿ÉÒÔ˵×ãÒÔÂú×ã½ðÈÚ³¡¾°µÄ´ó²¿·ÖÓ¦ÓÃÐèÇóÁË¡£
³ýÁËÓ²¼þ²ãÃæµÄÍ»ÆÆ£¬Ó¢Ìضû»¹ÌṩÁ˾¹ýÓÅ»¯µÄÈí¼þ¹¤¾ßÀ´ÍÚ¾òÓ²¼þDZÁ¦¡£
±ÈÈç¹ã·ºÊ¹ÓõÄOpenVINO™ ¹¤¾ßÌ×¼þ£¬¾Í±»ÓÃÀ´×¨Ãŵ÷ÓżÓËÙÄ£Ð͵ÄEmbedding´¦Àí½øÐС£
½ðÈÚ³¡¾°Éæ¼°´óÁ¿×¨ÒµÎĵµµÄÊäÈëÈÎÎñ£¬EmeddingÕýÊÇ°ÑÎı¾´ÓÀëÉ¢±äÁ¿×ª±äΪÁ¬ÐøÏòÁ¿µÄ¹ý³Ì£¬ºÃÈÃAIÄܹ»Àí½â¡£
¾¹ýOpenVINO™ ¹¤¾ßÌ×¼þÓÅ»¯ºó£¬K-GPT´óÄ£Ð͵ÄÅúÁ¿EmbeddingÐÔÄÜÌáÉýµ½3±¶Ö®¶à¡£
ͼע£ºOpenVINO™ ¹¤¾ßÌ×¼þÓÅ»¯Ç°ºó Embedding ÐÔÄܱȽÏ
ÔÙ±ÈÈç½ðÖ¤ÓëK-GPTÅäºÏʹÓõĿªÔ´ÏòÁ¿Êý¾Ý¿âFaiss£¬Ó¢ÌضûÒ²ÌṩÁËÓÅ»¯°æ±¾£¬ÒÔÌáÉýÔÚÖÁÇ¿® CPU MaxÉϵÄÄ£ÐÍÍÆÀíÐÔÄÜ¡£
ÔÚ´ó¹æÄ£ÏòÁ¿ÏàËÆÐÔ¼ìË÷ÈÎÎñÖУ¬¾Ó¢ÌضûÓÅ»¯¹ýµÄ°æ±¾ÐÔÄÜ¿ÉÌáÉýÖÁ4±¶×óÓÒ¡£
ͼע£ºÓ¢ÌضûÓÅ»¯°æ Faiss ÓëÔʼ Faiss ÐÔÄܶԱȣ¨Ô½¸ßÔ½ºÃ£©
³ýÁËÐÔÄÜ·½ÃæÖ®Í⣬½ð֤ѡÔñÓ¢Ìضû® ÖÁÇ¿® CPU MaxϵÁÐ×÷ΪËãÁ¦µ××ù»¹´øÀ´ÆäËû·½ÃæµÄÓÅÊÆ£º
Ê×ÏÈÊÇÁé»îÐÔ¡£ÓÉÓÚÓëÖ÷Á÷µÄ x86 ¼Ü¹¹ÍêÈ«¼æÈÝ£¬½ðÖ¤¿ÉÒÔ¼ÌÐøʹÓÃÔÓеĻúÆ÷£¬Áé»î´îÅäÊʺÏ×ÔÉíÒµÎñµÄÅäÖ᣶øÇÒ CPU
ÄÜͬʱӦ¶ÔÍÆÀíºÍͨÓüÆË㣬¿É¸ù¾Ý¸ºÔØÇé¿öËæʱµ÷Åä×ÊÔ´¡£
µÚ¶þÊÇ×ÜÓµÓгɱ¾ (TCO)¡£´Ó³¤Ô¶À´¿´£¬CPU·ÏßÄÜÒÔ¸üµÍµÄ²¿ÊðºÍά»¤¿ªÏú£¬ÊµÏÖÓëרÓüÓËÙÆ÷ÏàæÇÃÀµÄÐÔÄÜ¡£Õâ¶ÔÓÚÐèÒª¿ØÖÆÔ¤ËãµÄ½ðÈÚ»ú¹¹À´ËµÖÁ¹ØÖØÒª¡£
×ۺϿ´ÏÂÀ´£¬Ó¢Ìضû® ÖÁÇ¿® CPU
MaxϵÁд¦ÀíÆ÷ÔÚÓ²¼þÄÜÁ¦¡¢Èí¼þÓÅ»¯¡¢Éú̬ÊÊÅä¡¢×ÜÓµÓгɱ¾ÓÅÊƵȷ½Ã涼Óë½ðÈÚ³¡¾°·Ç³£ÆõºÏ£¬²»Ê§ÎªÒµ½ç´óÄ£ÐÍÂäµØµÄÒ»ÖÖÐÂ˼·¡£
ÈçºÎÆÀ¼Û£¿
Ëæ×ÅÊý×Ö»¯×ªÐ͵IJ»¶ÏÉîÈ룬´óÄ£ÐÍΪ½ðÈÚÐÐÒµ´øÀ´µÄ»úÓöÓëÌôÕ½²¢´æ¡£
Ô½À´Ô½¶àµÄ½ðÈÚ»ú¹¹¿ªÊ¼Ì½Ë÷ÈçºÎ½« AIGC ¼¼ÊõÓëʵ¼ÊÒµÎñÏà½áºÏ£¬ÔÚÌáÖÊÔöЧµÄͬʱ¿ØÖƳɱ¾¡£µ«×ܵÄÀ´Ëµ£¬´óÄ£ÐÍÔÚ½ðÈÚÐÐÒµµÄÓ¦ÓÃÈÔ´¦ÓÚ³õ²½Ì½Ë÷½×¶Î¡£
½ð֤ЯÊÖÓ¢Ìضû´òÔìµÄÕâÌ×´óÄ£ÐÍÍÆÀí·½°¸£¬¿ÉνÊÇÓ¦Óò㡢ģÐͲ㡢ËãÁ¦²ãµÄÉî¶ÈÈںϣ¬ÎªÒµ½çÊ÷Á¢Á˱ê¸Ë¡£
²»¾ÃÇ°¾Ù°ìµÄ½ðÖ¤¿Æ¼¼½Ú£¬¾ÍÎüÒýÁËÖÚ¶à½ðÈÚ»ú¹¹Ç°À´"È¡¾"¡£
×÷ΪÁ¬½Ó½ðÈÚÓë¿Æ¼¼µÄÖØҪƽ̨£¬½ðÖ¤¿Æ¼¼½ÚÎüÒýÁËÖÚ¶àÀ´×ÔÒøÐС¢Ö¤È¯¡¢±£ÏÕµÈÁìÓòµÄ½ðÈÚÐÐÒµÍæ¼Ò²ÎÓ룬¹²Í¬Ì½ÌÖ AI ¼¼ÊõÔÚ½ðÈÚÁìÓòµÄÓ¦ÓÃÇ°¾°ÓëÓÅÖÊʵ¼ù¡£
¿ÉÒÔÔ¤¼û£¬ÔÚÓ¢ÌضûµÄËãÁ¦¼Ó³ÖÏ£¬½ðÖ¤½«ÔÚ´óÄ£Ðͼ¼ÊõÉϲ»¶ÏÍ»ÆÆ£¬ÖúÁ¦¸ü¶à½ðÈÚ»ú¹¹ÊµÏÖÊý×Ö»¯×ªÐÍ£¬ÎªÓû§´øÀ´¸üÖÇÄÜ¡¢¸ßЧµÄ·þÎñÌåÑé¡£
2024Äê07ÔÂ01ÈÕ ÓÚÉϺ£
°æȨ×÷Æ· δ¾Ðí¿É ÇëÎðתÔØ ¡¡