- AIÓ¦Óÿª·¢µ××ù LazyLLM
- µÍ´úÂë¶àAgent´óÄ£×Ó¿ªÔ´Èí¼þ£¬£¬£¬£¬£¬¿É¼«ËÙ¹¹½¨ÆóÒµ¼¶¶àģ̬RAGÓ¦Ó㬣¬£¬£¬£¬
ÁýÕÖAIÓ¦ÓÃÔÐʹ¡¢Êý¾Ý»ØÁ÷¡¢Ä£×Óµü´úÓÅ»¯È«Á÷³Ì£¬£¬£¬£¬£¬ÎÞ·ìÖ§³Ö˽Óл¯°²ÅÅÓ빫ÓÐÔÆÐ§ÀÍ¡£¡£¡£¡£¡£
LazyLLM ÊÇרΪÏÂÒ»´úAIÓ¦ÓÃÉè¼ÆµÄÊý¾ÝÁ÷Çý¶¯ÐÍ¿ª·¢Èí¼þ£¬£¬£¬£¬£¬Í¨¹ý¶À´´µÄPipeline/Parallel/LoopµÈÊý¾ÝÁ÷ÒýÇæ£¬£¬£¬£¬£¬ÉÁ¿ª·¢ÕßÒÔ»ýľʽƴװ¹¹½¨¶àAgentÓ¦Óã¨ÈçÖÇÄܶԻ°¡¢¶àģ̬RAG¡¢AIGC¹¤¾ß£©¡£¡£¡£¡£¡£ µã»÷Ìø×ªÖÁ£ºLazyLLM GithubÖ÷Ò³









¶àģ̬AgenticRAGÂÛÎÄÎÊ´ðϵͳDEMOÑÝʾÊÓÆµ

-
Êý¾ÝÁ÷¿ª·¢·¶Ê½ÒÔPipeline/Parallel/Switch/If/Loop/Diverter/ Warp/GraphµÈ×é¼þ£¬£¬£¬£¬£¬Ïñ´î»ýľһÑù±àÅÅAIÂß¼¡£¡£¡£¡£¡£ -
Ò»¼üȫջ°²ÅÅ¿ª·¢ÇéÐδúÂëֱͨÉú²ú£¬£¬£¬£¬£¬ÎÞ·ì¼æÈÝWindows/macOS/Linuxϵͳ¼°Âã½ðÊô/K8s/Slurm/¹«ÓÐÔÆ¡£¡£¡£¡£¡£
-
ͳһ»¯ÌåÑé¶ÔÆë²î±ð»ùÄ£×Ó¡¢ÑµÍÆ¿ò¼ÜÓëÊý¾Ý¿âµÄʹÓýӿڣ¬£¬£¬£¬£¬ÎÞаÊÔÑéÊÖÒÕ×éºÏ¡£¡£¡£¡£¡£ -
Â䵨¼«ËÙ»¯ÇáÁ¿Íø¹ØÊµÏÖÂþÑÜʽӦÓ÷ÖÖÓ¼¶°²ÅÅ£¬£¬£¬£¬£¬ÇÀÕ¼Êг¡ÏÈ»ú¡£¡£¡£¡£¡£
- 01
- 02
- 03
- 04
Ö§³ÖÖ÷Á÷¿ªÔ´µÄÄ£×Ó£¨LLMÄ£×Ó£ºInternLMϵÁÐ/ChatGLMϵÁÐ/QwenϵÁÐ/DeepSeekϵÁÐ/BaichuanϵÁÐ/LLaMAϵÁеȣ»£»£»£»£»£»£» ǶÈëÄ£×Ó£ºbge¼°ÆärerankerϵÁÐ/siglipµÈ¿çģ̬ģ×Ó£»£»£»£»£»£»£»¶àģ̬ģ×Ó£ºInternVLͼÎÄÃ÷È·/Stable-DiffusionÎÄÉúͼ/ChatTTSÓïÒôתÎÄ×Ö/BarkÎÄ×ÖתÓïÒô/Wan2.1ÎÄÉúÊÓÆµµÈ£©¼°ÔÚÏßAPI£¨OpenAI/SenseNova/Moonshot/GLM/DeepSeek£©£¬£¬£¬£¬£¬ÍêÕûÁбí¼û: Supported Models - LazyLLM¡£¡£¡£¡£¡£
»ù´¡¹¦Ð§¿É´¿CPUÔËÐУ¬£¬£¬£¬£¬µ«Î¢µ÷/ÍÆÀí½¨ÒéÅ䱸GPU¡£¡£¡£¡£¡£
¶¼Ö§³Ö¡£¡£¡£¡£¡£ÏßÏÂÖ§³ÖÖ÷Á÷LLMÄ£×Ó¡¢VQAͼÎÄÎÊ´ðÄ£×Ó¡¢EmbeddingÄ£×ÓºÍRerankerÄ£×ÓµÄ΢µ÷¡£¡£¡£¡£¡£ÏßÉÏÖ§³ÖGLM¡¢OpenAI¡¢QwenµÄÔÚÏß΢µ÷¡£¡£¡£¡£¡£
Ö§³ÖÈ«Á´Â·Ë½Óл¯°²ÅÅ¡£¡£¡£¡£¡£
ÖÐÓ¢ÎĵĽ̳̼°API¶¼ÓС£¡£¡£¡£¡£¿£¿£¿£¿£¿£¿£¿ÉÇл»Ë«Ó£¬£¬£¬£¬Ïê¼û£ºGetting Started - LazyLLM¡£¡£¡£¡£¡£
ÖÜÈ«ÊÊÅ䣡 Ö§³Ö•NÌÚ/º®Îä¼ÍоƬ+÷è÷ëOS+´ïÃεȹú²úÊý¾Ý¿â¡£¡£¡£¡£¡£
LazyLLM×÷ΪÐÂÒ»´ú´óÄ£×ÓÓ¦Óÿª·¢¿ò¼Ü£¬£¬£¬£¬£¬ÔÚËÄ´ó½¹µãά¶ÈʵÏÖÍ»ÆÆÐÔÁ¢Ò죺
1. ͨ¹ý¶À´´µÄ¿ÉÊÓ»¯Êý¾ÝÁ÷±àÅÅ×é¼þ£¨ÈçPipeline/Parallel/LoopµÈ£©£¬£¬£¬£¬£¬ÒÔ"Êý¾ÝÁ÷Ϊ½¹µãµÄ¿ª·¢·¶Ê½½«ÖØ´óAgentÐ×÷´úÂ뾫¼ò70%£¬£¬£¬£¬£¬ÊµÏÖÄëѹ¼¶µÄ¿ª·¢Ð§ÂÊÌáÉý£»£»£»£»£»£»£»
2. ×÷ΪΨһ֧³Öȫջ°²ÅŵĿò¼Ü£¬£¬£¬£¬£¬ÔÉú¼æÈÝÖ÷Á÷²Ù×÷ϵͳ£¨Windows/macOS/Linux£©ºÍ»ù´¡ÉèÊ©£¨Âã½ðÊô/K8s/¹«ÓÐÔÆ£©£¬£¬£¬£¬£¬²¢Éî¶ÈÊÊÅä¹ú²ú»¯Éú̬£¨•NÌÚ¡¢º®Îä¼ÍоƬ/÷è÷ëOSµÈ£©£»£»£»£»£»£»£»
3. Õë¶ÔÆóÒµ³¡¾°ÌØÊâÓÅ»¯ÁËRAGÒýÇæ£¨¶àģ̬¼ìË÷׼ȷÂÊÌáÉý40%£©ºÍAgent¹¤³§£¨ÖØ´óʹÃüЧÂÊÌáÉý90%£©£¬£¬£¬£¬£¬Ìṩ¿ªÏä¼´Óõĸ߼¶Õ½ÂÔ£»£»£»£»£»£»£»
4. ÐγÉÉú²ú±Õ»·£¬£¬£¬£¬£¬Í¨¹ýÇáÁ¿Íø¹ØÊµÏÖ·ÖÖÓ¼¶°²ÅÅ£¨½Ï¾ºÆ·ÌáËÙ3±¶£©£¬£¬£¬£¬£¬²¢ÒÑÔÚ½ðÈÚ/ÕþÆóµÈ30+ÐÐÒµÍêÓñ³ÉÁ÷³ÌÑéÖ¤£¬£¬£¬£¬£¬ÌṩÍêÕûµÄÔËά¼à¿ØÖ§³Ö¡£¡£¡£¡£¡£ÕâÐ©ÌØÕ÷ÅäºÏ×é³ÉÁËLazyLLMÏà½ÏÓÚLangChain¡¢LlamaIndexµÄ´ú¼ÊÓÅÊÆ
½Ó´ý¹Ø×¢¹«ÖںţºlazyllmÒÔ¼° GitHubÖ÷Ò³¡£¡£¡£¡£¡£
ÒÑÔÚ½ðÈÚ¿Í·þ¡¢½ÌÓýÎÊ´ð¡¢Ò½ÁÆÖªÊ¶¿âÂ䵨£¬£¬£¬£¬£¬°¸ÀýÏêÇéÇëµã»÷ÓҲࡾ²úÆ·ÊÔÓá¿»òÁªÏµÍŶӻñÈ¡¡£¡£¡£¡£¡£
½Ó´ýÌá½»PR»òIssue µ½GitHub£ºhttps://github.com/LazyAGI/LazyLLM¡£¡£¡£¡£¡£





·µ»Ø



