大型语言模型技术圆桌讨论：从理论到生产的挑战与未来

大型语言模型圆桌讨论：技术挑战与行业未来

大型语言模型（LLMs）的卓越能力已成为焦点，引发了关于其影响的广泛讨论和推测。

本次小组讨论涉及：

未来将何去何从？提示词（prompting）的出现是否注定会取代传统编程？行业的需求是什么？如何全面把握这一切，以及在整体背景下核心能力是什么？在欧盟AI法案框架下LLMs的发展之路。从运维（Ops）角度探讨LLMs在生产环境中的应用。LLMs带来的教学挑战——如何向学生传授最新技术，我们面临哪些困难？Zalando公司的LLMs应用实践。将大型模型（1800亿参数以上模型）投入生产——面向消费级硬件的方案：API？模型蒸馏？LLMs兴起后的NLP云服务……

小组成员：

• Alejandro Saucedo (某机构，道德AI与机器学习研究所)
• Alina Lehnhard (某机构)
• Ines Montani (spaCy, Explosion AI)
• Michael Gerz (海德堡大学，计算机科学系)
• 主持人：Alexander CS Hendorf (某机构)

关于演讲者：

Ines Montani，一位知名的软件开发人员，是Explosion AI的联合创始人，这是一家专注于人工智能和机器学习的数字实验室。她是spaCy的主要开发者，spaCy是Python中广泛使用的先进自然语言处理（NLP）开源库。她还与Matthew Honnibal共同开发了Prodigy，这是一个机器学习标注工具，有助于高效创建训练数据。Montani是开源软件（OSS）的倡导者，致力于使AI和ML领域更易于访问。

Alejandro Saucedo 是一位技术企业家和软件工程师，以其在机器学习和人工智能方面的工作而闻名。他是某机构的工程、科学、产品与分析总监，同时也是道德AI与机器学习研究所的首席科学家，该研究所是位于伦敦的研究机构，致力于制定机器学习和人工智能的最佳实践等。

Saucedo拥有深厚的技术背景，曾在软件开发、机器学习和数据科学领域工作。他在众多活动中发表演讲，并致力于推广AI开发中的道德实践。

Michael Gertz 是海德堡大学的正教授，在数学与计算机科学系领导数据库系统研究小组。他在多特蒙德工业大学获得计算机科学硕士学位，并于1996年在汉诺威莱布尼茨大学获得自然科学博士学位。从1997年到2008年，他是加州大学戴维斯分校计算机科学系的教员。他的跨学科研究兴趣包括文本分析、数据挖掘、复杂网络和科学数据管理，应用于医学科学、法律、物理学、政治科学和经济学等领域。

Alina Lenhardt 是某机构的计算语言学家，也是PyConDE & PyData Berlin 2023的项目委员会主席。

Alexander Hendorf 是PyData Südwest的组织者之一，并深度参与Python和PyData社区。对他来说，为开源和社区做贡献意味着回馈，因为他的公司某机构利用开源技术为客户实现数据科学与人工智能。

2023年9月21日在Big PyData BBQ / PyData Südwest现场录制

PyData Südwest

👋 PyData Südwest是一个充满活力的社区，热衷于企业级和研究领域的数据科学、人工智能、数据管理、🐍 Python和开源！

我们是由技术爱好者组成的多元化团体，定期在卡尔斯鲁厄、曼海姆和海德堡等地举办聚会。我们将北巴登和库尔普法尔茨地区的成员团结在一起，举办大型聚会以获取丰富的见解。🤝🌈

我们的活动在Meetup上列出。

致谢：

• 感谢Hei_INNOVATION提供场地。
• 感谢某机构组织本次活动。

PyData是NumFOCUS的教育项目，NumFOCUS是美国的一家501(c)3非营利组织。PyData为国际数据分析工具用户和开发者社区提供一个分享想法和相互学习的论坛。全球PyData网络促进关于数据管理、处理、分析和可视化的最佳实践、新方法和新兴技术的讨论。PyData社区使用多种语言进行数据科学研究，包括但不限于Python、Julia和R。