要津字: [innovate2024， Dify， 生成式Ai企业落地欧美色情， 企业Ai应用编排， 大模子用具链， 应用恶果监控优化， 企业立异加快]
本笔墨数: 1600， 阅读完需: 8 分钟
在亚马逊云科技 Innovate 大会上，演讲者延君晨共享了对于生成式AI企业落地的近况、挑战和措置有规画。他先容了Dify AI用具链怎么匡助企业快速发布应用、捏续优化，并与亚马逊云科技的家具和处事进行集成。演讲者还共享了Dify与亚马逊云科技在家具技巧、贸易化和市集等方面的团了案例。终末，他从个东谈主视角对企业进行生成式AI转型提议了建议，包括找到具体景况、详尽使命流、延伸普及以及酿成正响应机制。他号召企业拥抱生成式AI带来的技巧变革，并接待使用亚马逊云科技和Dify的措置有规画。
以下是小编为您整理的本次演讲的精华，共1300字，阅读时候约莫是6分钟。
在亚马逊云科技Innovate大会上，Dify.AI的相接独创东谈主延君晨先生就企业怎么加快落地生成式AI进行了共享。他最初先容了Dify这个开源样式，目下在人人开源社区中同类家具名次靠前，领有47，000个星星(star)，月活跃用户荒芜200万，可以不雅察到企业怎么落地使用生成式AI。
延君晨推崇了企业生成AI落地的近况和挑战。刻下，模子采用可谓百花皆放，无论是在中国如故人人畛域内，都有许多不同的模子供应商，他们的资本在不休地下跌，性能在不休地高涨，这使得企业采用模子并非一个弘大挑战。关系词，果真稀缺的是信息和创造价值的念念路。企业需要招聘一个齐全的研发团队，去措置目下生成式AI的技巧落地问题，这其中包括评估不同模子的恶果、反复对接、不休尝试不同的指示词、不同的应用编排，准备和处理数据，联想有规画接入各式大模子，对各式技巧和家具层面进行征询和对接。这些使命都不属于企业的中枢业务价值，反而会散布企业的元气心灵，无法聚焦于自己的中枢业务。
为措置上述挑战，Dify提供了一条用具链，旨在让企业聚焦于自己的业务价值，快速发布应用并捏续优化。Dify提供了一个交互友好的长入界面，匡助企业编排应用。同期，它提供了怒放的形态接入模子、企业数据、用具API，并通过Workflow将企业的业务领路千里淀下来。最迫切的是，在应用发布之后，Dify会提供一个平台，让企业捏续监控并优化应用的恶果，这体现了DevOps的理念。通过Dify的用具链，企业落地AI应用的资本可以大幅贬低。一家头部汽车企业暗示，在使用Dify平台后，他们抠门生成AI应用的资本大幅贬低，由原先的一个较高数字降至一个较低数字。
从宏不雅角度来看，Dify手脚Infra层用具链，联结了生成AI应用所需的5层架构，包括模子层、基础轮番层、处事层以及最终面向企业里面或终局客户的应用层。从微不雅角度来看，Dify提供了数据ETL、指示词编排、Workflow编排、插件接入、API对外处事等全倡导才气。不仅如斯，Dify的技巧栈具有很好的怒放性和可扩展性，意味着企业可以松驰地将Dify集成到现存业务系统中，随时接入和替换不同的模子、接入企业API、接入不同的IG有规画，凭据需求进步履态立异。此外，Dify将捏续迭代，跟进多模态领路和生成模子技巧、加强怒放性、评估并完善Ops才气。
Dify与亚马逊云科技吞并密切，Dify家具原生因循调用亚马逊云科技的Bedrock和SageMaker上已部署的模子处事，用具层也集成了亚马逊云科技提供的多种措置有规画，企业可以松驰通过Dify调用这些处事。两家公司为近百个客户提供接踵承事，包括一家游戏公司，他们控制Dify结合亚马逊云科技的现存才气，罢了了智能运维、赞成确立、运营提效等多种应用场景，这些应用最终都千里淀在了Dify上。比如技巧文档生成、日记监控、压测、游戏挑剔分析等，都是通过Dify再结合企业里面用具以及亚马逊云科技已有才气进行的应用串联。
另一家跨境电商企业则将亚马逊云科技上的应用千里淀到Dify上，他们将企业内的东谈主分为三类:正常职工可以开箱即用已构建好的AI应用，该企业AI应用的日活跃率也曾荒芜30%，远高于行业平均水平;有构建才气的东谈主员可以使用Dify进行立异，在金融、零卖、医药、汽车等多个行业，该企业的客户都在使用Dify手脚立异平台;确立东谈主员则可以使用Dify高效确立，一个从未战争过AI家具的工程师，可能只需两天时候就能作念出一个可以的AI应用。
延君晨从个东谈主视角对企业AI转型提议了四个才气:最初要找到一个具体的景况，比如医药行业的常识密集型使命，使用大模子可以将检索医学文件、得出论断的时候从几个小时裁减到几分钟或十几分钟;其次将这些景况详尽为Workflow;第三是在企业里面或外部延伸并普及应用;终末亦然最迫切的一步，便是酿成正响应机制，让应用的恶果进一步加快企业的技巧跳动和业务发展。他例如说，对于一些金融行业客户来说，使用大模子可以将为客户提供详确简报的时候从两三个小时裁减到1分钟，但恶果莫得太大各异。
延君晨以为，AI将深化影响个东谈主的使命生存形态，我方目下有荒芜1/3的使命是由AI赞成完成的，无论是回邮件、写案牍，如故在招聘经过中，都有AI用具赞成。工程师的代码也有很大一部分是由AI生成的，东谈主的变装更像是看管和死心AI以取得预期结尾。他援用了一位工程师的话，暗示目下工程师的主要使命不是写代码，而是领路业务需求，死心AI生成允洽预期的代码。
延君晨还共享了Dify采纳的两个基本理念:技巧平权和立异泄漏。技巧平权意味着，跟着技巧的发展，东谈主们获取和使用技巧的资本将渐渐贬低，从崇高的家具鬈曲为日常用品，这亦然亚马逊云科技一直坚捏的理念。立异泄漏则以为，立异是从下到上泄漏出来的，而不是从上至下分拨任务，企业应该为一线职工提供契机引发创造力，而不是按照传统的看管形态。一家西席行业客户就因为深圳市AI的立异，改造了组织架构样式，让业务东谈主员切身写指示词，将立异单位缩减到三五个东谈主，取消了信息圮绝，里面有几百个不同的Workflow在延伸，东谈主效和结尾都有显赫擢升。终末，延君晨暗示，无论是亚马逊云科技如故Dify，都接待企业使用它们的家具和措置有规画，拥抱生成式AI带来的新技巧范式。
底下是一些演讲现场的精彩顷刻间：
君晨先容了我方是 Dify.AI的相接独创东谈主，并晓谕了今天共享的主题是对于亚马逊云科技和 Dify 在生成式 AI 企业怎么加快落地。
在立异2024大会上，演讲者从宏不雅和微不雅两个角度阐明了企业怎么落地生成式AI架构，包括5个层面:模子、基础轮番、处事、应用以及底层硬件。
通过架构图展示了Dify联结了大模子生成式AI应用经过中的悉数基础轮番，包括数据ETL、指示词编排、使命流编排、插件集成、API和Web App等。
Dify将在怒放性、多模态技巧迭代和运维才气方面不休探索和完善，以更好地将生成式AI技巧与企业业务相结合。
Dify是一款提高企业立异温雅的AI家具，许多头部企业都在使用它举办里面立异比赛和黑客马拉松步履。
咱们肯定立异是一种从下到上的泄漏经过，而不是从上至下的任务分拨。
亚马逊云科技（Amazon Web Services）是人人云筹划的草创者和引颈者。提供200多类庸俗而深入的云处事，处事人人245个国度和地区的数百万客户。亚马逊云科技死力于成为企业构建和应用生成式AI的首选，通过生成式AI技巧栈欧美色情，提供用于模子检修和推理的基础轮番处事、构建生成式AI应用的大模子等用具、以及开箱即用的生成式AI应用。深耕土产货、一语气人人 – 在中国，亚马逊云科技通过安全、富厚、着实赖的云处事，助力中国企业加快数字化转型和立异，并深度参与人人化市集。
企业亚马逊云科技Dify亚马逊云发布于：韩国声明：该文不雅点仅代表作家本东谈主，搜狐号系信息发布平台，搜狐仅提供信息存储空间处事。