要津字: [innovate2024， Ninja Tech探花 眼镜妹， Generative Ai Agents， Personal Ai， Productivity Tasks， Custom Ai Silicon， Affordable Personal Ai]
本翰墨数: 1400， 阅读完需: 7 分钟
Ninja Tech的聚会首创东说念主兼首席本领官在innovate2024活动上展示了他们的多智能体个东说念主AI“忍者”。在演讲中，他回报了Ninja Tech若何通过成心的AI智能体(如接头员、日程安排员、智商员和省俭者)来处理耗时的任务，从而提高每个东说念主的处事后果。他评释说，Ninja Tech运用亚马逊云科技TRAINIUM和INFERENTIA定制AI硅来完了大型言语模子(如LLAMA 3)的高效和可彭胀的测验和推理。该演讲细心先容了Ninja Tech若何诞生在亚马逊云科技的AI/ML服务(如TRAINIUM、INFERENTIA和SAGEMAKER)之上，从而完了了经济实惠的个东说念主AI、按需彭胀以及快速施行和部署新的AI智能体和模子。
在顶端科技的畛域，一家名为Ninja Tech的具有远见明见的初创公司应时而生，由聚会首创东说念主兼首席本领官Sam指令。它们的责任是立异性的——通过运用多智能体个东说念主AI的力量，为巨匠每一位信息处事者每周赢得一个特等的处事后果小时。
色戒在线Ninja Tech的创新贬责决策，哀感顽艳地定名为Ninja，是一个冲破性的AI系统，由四个成心的智能体构成:接头员、日程安排员、编码员和省俭者。关连词，信得过使Ninja卓尔不群的是，它与使用先进的乌有引擎5构建的栩栩如生的多语种化身无缝集成，为东说念主机交互提供了前所未有的的确体验。
值得把稳的是，Ninja Tech通过运用Anodvis平台，在亚马逊云科技(AWS)定制的AI硅数据库生态系统上构建了它们的AI智能体，完了了始创性的豪举。这一斗胆的举措使它们成为首批不依赖单一GPU就开发AI智能体的初创公司之一，彰显了它们创新精神和冲破界限的决心。
Sam创办Ninja Tech的历程见证了他在AI畛域丰富的造就和专科常识。在Ninja Tech之前，他曾指令Meta的AI系统代码联想处事，从优化AI模子以提高告白评分，到为Meta的AI处事负载构建定制测验推理硅。此外，Sam还领有得胜的创业经验，曾得胜出售包括将AI引入智能城市的Deca Scents和始创软件界说蕴蓄劝诱的Citadelika在内的多家公司。
Ninja Tech的创立源于Sam和他的聚会首创东说念主的一个深刻意志——百行万企的专科东说念主士齐在将无数时候破耗在不错弥散由AI智能体自动化和代替的任务上。基今日期安排、接头、代码考虑和各种其他主题齐合适通过生成式AI的力量进行优化。这一意志促使它们开启了将个东说念主AI民主化的责任，使之前对大多数东说念主来说齐是牛年马月的个东说念主AI成为可能。
在构建Ninja的进程中，Ninja Tech靠近着一个紧要挑战——谋略资源的可用性，尤其是对GPU的高度需求。关连词，与亚马逊云科技的合作关系成为了一个游戏限定蜕变者，因为他们或者运用亚马逊云科技的Tranium和Inferentior，随时获取遒劲的谋略才调。这种才调在很多其他云服务提供商何处是无法完了的，使Ninja Tech或者无缝彭胀其体验并克服资源为止。
除了资源可用性除外，资本后果亦然Ninja Tech决定与亚马逊云科技合作的要津要素。Ninja Tech暴露，与使用GPU(绝顶是TRN1和INF2与H100比拟)比拟，他们的贬责决策的资本后果进步82%到89%。这种资本上风关于确保Ninja或者行为一种职守得起的个东说念主AI贬责决策提供给每一位信息处事者至关伏击，这与他们将这种变革性本领民主化的责任是一致的。
复旧Ninja Tech取得得胜的是与亚马逊云科技团队的刚烈支抓和合作，绝顶是在运用Neuron平台方面。这种合作伙伴关系使Ninja Tech或者将有名模子(如前Meta边幅LLaMa 3)集成到亚马逊云科技的定制硅上。Ninja Tech关于使用LLaMa 3感到自尊，它称其在准确性和性能方面齐有了权臣进步。
为Ninja构建一个或者处理同步和异步交互的AI系统是一项复杂的任务。受到丹尼尔·卡尼曼的文章《念念考，快与慢》的启发，他们开发了一种系统，或者及时反应肤浅查询，同期也能处理需要接头和异步反应的更复杂问题。这种双重交互模式关于效法东说念主类疏浚和处理信息的当然形态至关伏击。
亚马逊云科技的SageMaker在Ninja Tech的开发进程中进展了要津作用，使他们或者彭胀测验任务，并运用TRN和按需池进行施行和突发处事负载。获取遒劲的谋略才调使Ninja Tech的数据科学家或者快速进行施行、迅速获取收尾并评估模子，而无需承担过高的资本。这种敏捷性在创新和迭代至关伏击的畛域里至关伏击。
呼应亚马逊云科技 CTO Werner Vogels 的忠良，Sam 强调了幸免在非相反化的重膂力工作上进行无谓要的支拨的伏击性。通过运用亚马逊云科技的服务和基础设施，Ninja Tech 不错将资源和元气心灵蕴蓄在构建代理、手段和相反化才调上，而非自身经管底层基础设施。
瞻望改日，Ninja Tech 的抱负与生成式东说念主工智能自己的后劲通常宽广。它们的主要运筹帷幄是将 Ninja 交到每个个东说念主手中，让他们或者运用东说念主工智能的力量提高分娩力。此外，它们运筹帷幄扩大东说念主工智能代理的产物组合，提供更平淡的手段来处理更各种化的任务。Sam 关于促进这些代理之间更大的协同和互助，从而开释新的协同效应和才调的出路默示郁勃。
此外，Ninja Tech 意志到在各个行业和垂直畛域西席用户灵验运用生成式东说念主工智能来心仪他们特定用例的伏击性。不管是在学术界、销售、工程、金融或任何其他畛域，Ninja Tech 的运筹帷幄齐是为专科东说念主士提供常识和器用，以充分进展这种变革性本领的后劲。
关于那些成心思运用生成式东说念主工智能进行创新的首创东说念主、CTO 和行业指令者，Sam 提供了难得的冷落。率先亦然最伏击的，他强调诞生一支拨色的团队的至关伏击性——这是 Ninja Tech 取得得胜的诀要方位。其次，他冷落找到一个可靠和支抓性强的云服务提供商合作伙伴，讴颂了亚马逊云科技提供的成心的企业支抓，这关于确保抓续开动时候、快速系统以及或者快速施行和部署新模子和新功能至关伏击。
临了，Sam 饱读舞选拔创业心态，敢于尝试，因为生成式东说念主工智能的应用是平淡且不休发展的。怀着酷爱心和敢于冲破界限的决心，可能性是无尽的。
在东说念主工智能赶紧发展的时间，Ninja Tech兀立为创新的灯塔，由一支充满矜恤的团队驱动，并借助Amazon云科技遒劲的基础设施和服务的支抓。它的历程见证了合作、不到黄河心不死以及勤勉完了顶端本领民主化获取的力量。跟着Ninja Tech不休鼓吹生成式东说念主工智能的畛域，其对分娩力和东说念主机交互的影响有望在各个行业产生潜入影响，让个东说念主和组织或者开释新的可能性。
底下是一些演讲现场的精彩骤然：
感谢邀请，让咱们直入主题，了解一下Ninja Tech公司的情况。
与GPU比拟，该公司的定制芯片TRN1和INF2在资本后果方面进步82%至89%，这关于以可职守的价钱将个东说念主AI提供给每一位信息处事者至关伏击。
通过构建一个不错同期处理同步和异步任务的系统，完了了与东说念主类当然交互的才调，举例安排会议等复杂场景。
借助SAGEMAKER的按需资源池和快速施行才调，该公司或者高效地进行测验和模子部署，加速创新方法。
通过运用亚马逊云科技的支抓，Ninja Tech公司将或者更快地构建和测验新的AI代理，为用户提供更多种类的AI手段，匡助每个东说念主提高处事后果。
行为一家始创性的初创公司，Ninja Tech开发了一种名为Ninja的多智能体个东说念主AI系统，旨在通过自动化耗时的任务来提高分娩力。借助亚马逊云科技(AWS)的顶端AI基础设施，包括Trainium和Inferentia芯片、Neuron和SageMaker，Ninja Tech创建了一种经济高效且可彭胀的个东说念主AI智能体贬责决策。
该公司的聚会首创东说念主兼首席本领官Sam强调，组建出色的团队并与可靠的云服务提供商如亚马逊云科技(AWS)诞生合作关系至关伏击。Ninja Tech的智能体(如接头员、日程安排员、智商员和省俭者)诞生在Anodvis定制的AI硅数据库生态系统之上，使其成为首批不依赖GPU就开发AI智能体的初创公司之一。
通过运用亚马逊云科技(AWS)的按需配额、资本效益和企业支抓，Ninja Tech或者快速施行、部署新模子，并在定制硅上对LLaMa 3等有名模子进行微调。该公司的愿景是使个东说念主AI民主化，让每一位信息处事者每周齐能量入为用一小时的分娩力时候。
瞻望改日，Ninja Tech旨在扩大其AI智能体的范围、促进智能体之间的互助，并西席用户了解生成式AI在各个行业的潜入影响。Sam饱读舞其他首创东说念主和首席本领官专注于诞生出色的团队、与可靠的云服务提供商如亚马逊云科技(AWS)合作，并保抓施行心态，以充分开释生成式AI应用的渊博后劲。
亚马逊云科技（Amazon Web Services）是巨匠云谋略的始创者和引颈者。提供200多类平淡而深入的云服务，服务巨匠245个国度和地区的数百万客户。亚马逊云科技悉力于于成为企业构建和应用生成式AI的首选，通过生成式AI本领栈，提供用于模子测验和推理的基础设施服务、构建生成式AI应用的大模子等器用、以及开箱即用的生成式AI应用。深耕腹地、相连巨匠 – 在中国，亚马逊云科技通过安全、清爽、的确赖的云服务探花 眼镜妹，助力中国企业加速数字化转型和创新，并深度参与巨匠化商场。
智能体亚马逊Ninja云科技Sam发布于：韩国声明：该文不雅点仅代表作家本东说念主，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。