OpenChatKit

OpenChatKit的常见问题

OpenChatKit 是什么以及它提供了什么？

OpenChatKit 是一个开源项目，为各种应用提供了一个强大的基础，用于创建专业和通用聊天机器人。它由四个关键组件组成：一个经过指令调整的大型语言模型，用于微调模型的自定义配方，一个可扩展的检索系统，用于通过实时更新的信息增强模型，以及一个用于过滤不适当或超出领域的问题的管控模型。

OpenChatKit 的合作伙伴和训练数据集是谁？

OpenChatKit 是 Together、LAION 和 Ontocord 的合作项目。他们创建了 OIG-43M 数据集，这是一个包含 4300 万条高质量对话交互指令的集合，以及 moderation 数据集，这是一个包含不适当问题的集合，用于聊天机器人。

我如何尝试 OpenChatKit 并提供反馈？

您可以在 OpenChatKit 网站上尝试 OpenChatKit 并通过反馈应用提供反馈。您还可以加入 GitHub、Discord、Twitter 和 Medium 上的 OpenChatKit 社区，分享您的想法、建议和问题。

OpenChatKit 的基础模型是什么，它是如何进行微调的？

OpenChatKit 的基础模型是 GPT-NeoXT-Chat-Base-20B，这是一个使用 EleutherAI 的 GPT-NeoX 模型为基础的具有 200 亿个参数的大型语言模型。它使用 OIG-43M 数据集进行微调，重点关注多轮对话、问答、分类、抽取和摘要等任务。

OpenChatKit 在不同的自然语言任务中的表现如何？

OpenChatKit 在各种自然语言任务中表现良好，特别是涉及问答、抽取和分类的任务。然而，它也有一些需要改进的领域，比如基于知识的封闭问题和回答、编码任务、重复、上下文切换以及创造性的写作和更长的回答。

我如何在我的工作中引用或参考 OpenChatKit 或训练数据集？

您可以使用 GitHub 仓库中提供的 BibTeX 条目引用或参考 OpenChatKit 或训练数据集。

OpenChatKit 与其他大型语言模型或聊天机器人相比如何？

OpenChatKit 在灵活性、可自定义性和可扩展性方面与其他大型语言模型或聊天机器人相比具有优势。它可以处理各种自然语言任务，并具有高性能，并且可以使用提供的工具和配方进行微调和适应特定的应用或领域。

OpenChatKit 的许可证是什么，我如何修改或检查权重？

OpenChatKit 授权采用 Apache License 2.0，允许您自由使用、修改和分发软件。您还可以使用 Hugging Face Transformers 库或 GitHub 仓库中提供的 Jupyter 笔记本检查模型的权重。

我如何访问 OpenChatKit 的源代码、模型权重和训练数据集？

您可以在 GitHub 上访问 OpenChatKit 的源代码、模型权重和训练数据集。模型权重和数据集也可以从 Hugging Face 下载。