主题:基于 RAG 技术创新构建智能对话机器人
尊敬的开发者及高校参赛队伍们:
随着大型语言模型(LLMs)的发展与广泛应用,我们正身处一个技术革新的时代。尤其是以检索为基础的系统,在这场技术飞跃中走在了最前沿。这些模型不仅仅是自动化的工具,它们更是提高生产力的得力助手,能够与各种工具和文档进行交互,展开有根据的对话。
为了深入挖掘和探索这一技术的潜力,我们诚挚地邀请您参加NVIDIA 第十届Sky Hackathon活动。本次活动将聚焦于大型语言模型的实际部署以及为满足用户和深度学习模型需求所需的高效实施策略。
本次Sky Hackathon的核心议题是“基于RAG技术创新构建智能对话机器人 ”。我们鼓励参赛者运用RAG(Retrieval-Augmented Generation)技术,并结合NVIDIA的SDK工具,自主设计和搭建对话机器人。通过这一过程,您将亲身体验从数据检索到生成对话的完整流程,并深入了解NVIDIA SDK在生成式AI领域的实际应用。
参加Sky Hackathon,您将有机会:
-
深入了解并实践RAG技术,掌握搭建对话机器人的核心技能。
-
亲身体验NVIDIA SDK的强大功能,为您的开发工作提供有力支持。
-
体验NVIDIA NIM在生成式AI中的强大作用, 以及在边缘端设备上部署实践的流程
-
与同行交流学习,共同探索生成式AI的更多可能性
-
展示您的创意和实力,赢得丰厚的奖品和参赛证书
-
活动过程中,完成NVIDIA DLI线上课程《Building RAG Agents with LLMs》,还将获得NVIDIA DLI颁发的学习证书
-
活动过程中,在CSDN或者知乎上撰写学习笔记也将额外获得精美小礼品。
这不仅是一场技术的盛宴,更是一次思维的碰撞与灵感的汇聚。我们相信,通过您的参与和努力,Sky Hackathon将成为推动生成式AI技术发展的重要力量。
期待您的加入,共同开启这场技术的盛宴!
关于SKY Hackathon
Sky Hackathon由NVIDIA发起并主办,项目旨在帮助在校参赛队伍、人工智能开发者在NVIDIA Jetson边缘高性能计算产品上部署和优化人工智能应用。在经验丰富的GPU导师指导下,通过黑客松竞赛的方式学习业界所需的深度学习相关应用开发及其并行计算技能,激发参赛队伍们的学习兴趣与创新力。
NVIDIA工程师将亲自为参赛队伍带来他们对最新的深度学习与边缘计算方面的理解、行业的趋势与最新的技术应用及最新开发工具实战技能知识,在训练营中对参赛队伍进行指导。
Sky Hackathon为参加者提供了一个难得的学习并实际操作的机会,学习嵌入式深度学习开发所需的动手技能, 通过使用NVIDIA最新的编程模型、库和工具以加速和优化他们的AI应用程序。
整个活动包含了训练营和黑客松比赛,全程采用在线的方式。
本次大赛前三名将获得由创乐博赞助的Jetson Orin NANO(4GB)开发套件,第四名到第13名将获得由创乐博赞助的Jetson NANO开发套件,所有完赛队伍成员将获得NVIDIA限量版徽章和一份精美礼品.
完赛队伍都将获得参赛证书
活动赞助商
湖南创乐博智能科技有限公司(创乐博)是一家教育设备公司,相关产品主要包括 ,树莓派、英伟达Jetson系列系列等,包括科教设备上千款产品。
【官方网站】:https://www.loborobot.com/
【电商平台】:https://chuanglebo.tmall.com/
活动报名
本次大赛需要收取100元押金,活动结束后,100元押金将原路退回。组队成功后,活动助教会通过邮件联系队长收取100元。
报名链接:https://jinshuju.net/f/j07Plv
往届活动回顾
第一届活动可以访问:https://mp.weixin.qq.com/s/NmKVftUs5diTrDRl2Rblmg
第二届活动可以访问:https://mp.weixin.qq.com/s/1M50CStTGzQTY2ADuUpeYQ
第二届活动导师评价:https://mp.weixin.qq.com/s/Sue6OV0eZyYlD2vvSLvwEg
第三届活动可以访问:https://mp.weixin.qq.com/s/r-nd9zDbaYdrQ0nZzKl5vg
第四届活动可以访问:https://mp.weixin.qq.com/s/df1QCJ5MRLd8CxrHkSylcg
第五届活动可以访问:https://mp.weixin.qq.com/s/Rt9Xz_YmI9VsjL8tUsjuqg
第六届活动可以访问:https://mp.weixin.qq.com/s/VzX3bjmXQ_el0W-Ilc8ltg
第七届活动可以访问:https://mp.weixin.qq.com/s/nDNn6SszX14pE5KIqNMITg
第八届活动可以访问:https://mp.weixin.qq.com/s/HGo0jZqHNyGW3UkJlMfaVQ
第九届活动可以访问:https://mp.weixin.qq.com/s/Reu7-q3ujBg_zCwv54B3-w
本次大赛任务介绍
本次大赛主题 “ 基于RAG技术创新构建智能对话机器人”
本次Sky Hackathon比赛旨在让参赛队伍通过实践,深入了解并应用RAG(Retrieval-Augmented Generation)技术,结合大模型,自主搭建并优化对话机器人。具体任务包括以下几个部分:
学习 RAG技术与大模型的结合 :
参赛队伍将通过主办方提供的介绍和DLI(Deep Learning Institute)课程,系统学习如何利用RAG技术来增强对话机器人的交流能力。深入理解RAG技术的工作原理,以及它如何与大模型相结合,从而提升对话机器人的智能化水平。
学习利用 NIM平台搭建与部署对话机器人 :
参赛队伍需利用所学知识,结合NVIDIA提供的NIM接口和SDK工具,自主搭建一个基于RAG技术的对话机器人。完成搭建后,参赛队伍需将对话机器人部署到组委会提供的Jetson NX平台上。这一过程中,参赛队伍需要确保机器人在该平台上的稳定运行。
对话界面的优化与创新功能添加 :
在确保对话机器人基本功能正常运行的基础上,参赛队伍需要对对话界面进行优化,以提升用户体验。鼓励参赛队伍发挥创意,为对话机器人添加自定义的创新功能。这些功能可以是提升交互体验的小工具、增加趣味性的元素,或是其他能够提升对话机器人实用性和吸引力的设计。
项目展示与答辩 :
在最终决赛中,参赛队伍需要向评委和观众展示自己的项目成果。这包括对话机器人的功能演示、界面展示以及创新功能的介绍。参赛队伍还需准备答辩环节,就项目的创新点、技术难点、实现过程等方面回答评委的问题,以展现自己对项目的深入理解和扎实的技术功底。
通过以上任务的完成,参赛队伍不仅能够掌握RAG技术和大模型的应用,还能在实践中锻炼自己的动手能力和创新思维,为未来的学习和职业发展打下坚实的基础。
在此过程中,参赛队伍将会实际体验到:
构建可预测交互的LLM系统:
你将学会如何组合一个大型语言模型(LLM)系统,该系统能够通过利用内部和外部推理组件与用户进行可预测的交互。这意味着你的系统将能够理解用户的意图,并根据上下文提供连贯、准确的回应。
设计对话管理与文档推理系统:
你将掌握如何设计一个对话管理和文档推理系统,该系统能够维护对话状态,并将信息强制转换为结构化格式。这样,你的对话机器人就能够更好地理解用户的需求,并在对话过程中保持一致性,提供用户所需的信息。
利用嵌入模型进行高效相似度查询:
你将了解如何利用嵌入模型进行高效的内容检索和对话引导。通过这种方法,你的对话机器人能够快速地找到与用户问题最相关的内容,并在对话中提供有价值的参考信息,从而提升用户体验。
实现、模块化和评估RAG代理:
最后,你将学会如何实现、模块化和评估一个基于检索增强生成(RAG)技术的代理,该代理能够在不进行任何微调的情况下回答其数据集中研究论文的相关问题。这将使你的对话机器人在处理专业领域的知识时更加准确和高效。
体验NVIDIA NIM的便捷部署:
学习使用NVIDIA NIM(NVIDIA Inference Microservices),这是一个经过优化的云原生微服务。了解NIM如何将AI模型简化为微服务,并通过容器化技术,实现模型的快速部署。
总的来说,通过参加本次大赛,你将获得构建智能对话机器人的全面技能,从系统设计到实现、评估,再到优化,为你的职业发展或个人兴趣打下坚实的基础。
活动日程安排
活动形式:线上
活动安排:
参赛推理平台(由主办方提供)
硬件平台:NVIDIA Jetson Xavier NX (8GB Memory)
操作系统:Ubuntu 20.04 L4T 64位元桌面版
开发环境:JetPack5.1.3
教学环境:Jupyter Lab 2.1.2
同时为参赛队伍提供真实的Xavier NX编程环境
评分标准
实用性、行业价值、创新性(40%)
实用性(15%):解决方案是否能够切实解决实际存在的问题或满足实际行业需求。实用性强的方案将得到更高的评分。
行业价值(15%):方案是否具有潜在的商业价值或能够显著提升行业内的工作效率。行业影响力大、应用前景广的方案将得分更高。
创新性(10%):方案在技术、方法或应用上的创新程度。独特且创新的思路将得到更多分数。
作品完整性(30%)
基本功能实现(20%):是否完成了大赛要求的基本功能,如对话机器人的搭建、RAG技术的集成等。每个基本功能的完整实现是评分的重点。
稳定性和可靠性(5%):作品在运行过程中是否稳定,是否容易出现错误或崩溃。稳定性和可靠性高的作品将得到更高的分数。
文档和支持(5%):是否提供了清晰的使用说明、技术文档或支持材料。完善的文档和支持将提升作品的完整性评分。
调用的NIM数量及技术深度(30%)
NIM接口调用(10%):根据参赛队伍调用的NIM接口数量进行评分。成功融合多个NIM接口的作品将得到更高的分数。
技术融合与深度(20%):评价参赛队伍如何将多种大模型技术合理融合到解决方案中,并评估技术实现的深度。技术融合度高且实现深入的作品将得分更高。
额外加分项
用户界面优化/美化(+5%):如果作品的用户界面进行了更深度的优化或美化,提供了更好的用户体验,可以酌情给予额外加分。加分的具体比例将根据优化的程度和效果进行评定,最高不超过总分的5%。
注意:以上各项评分标准的比例可根据实际情况进行微调,以确保评分的公正性和合理性。同时,评委在评分时应综合考虑作品的整体表现,而非仅关注单一方面。
赛事交流和答疑
本次Hackathon活动会提供专属赛事交流微信群,所有符合参赛条件的团队成员将被组委会人员邀请加入微信群。
NVIDIA在开发者社区论坛会提供专属赛事栏目:
有关赛事的技术问题请在论坛上提问。组委会技术团队会负责技术答疑。
关于参赛团队队长
每个参赛队伍都需要指定队长。
每个参赛队伍之队长须于活动期间代表该团队负责比赛联系及得奖奖品领取等相关事宜。团队成员须自行分配团队内部的各项权责归属,若有任何争执之处(如奖品领取方式与分配),主办/执行单位不涉入处理。
Q&A
我能参加么?
Sky Hackathons目前针对高校学生和开发者,当然有兴趣参与的高中参赛队伍也欢迎。一般不需要有GPU编程经验,但是最好有一定Python和编程基础;对深度学习、神经网络有一定理论基础;
如何报名?
黑客精神就是团队合作,每队需要选出一名队长,并为团队起个名字。
所有团队成员应单独报名,并填写团队名称
每队限3-5人。如果报名团队多余5人或者少于3人,我们将视为团队无效。
有奖励么?
一般来说,Sky Hackathon是合作而不是竞争。最好的奖品是代码的新性能级别、与专家的相处时间、在Jetson平台上运行的能力以及难忘的体验,这些都可能使您更接近一篇新的论文或演讲。但是,我们确实会颁发一些象征性的奖品和参赛证书。