写点什么

3 分钟快速了解 GPT-4

作者:Baihai IDP
  • 2023-03-15
    湖北
  • 本文字数:963 字

    阅读完需:约 3 分钟

编者按:3 分钟快速了解 GPT-4,高效获取目前关于 GPT-4 的重点信息。话不多说,Enjoy!


作者 | 岳扬

01 GPT-4 简介

说到 GPT-4,可能你不知道,在北京时间今天凌晨 OpenAI 发布之前你可能已经用过了。根据这篇Bing Blog的内容,负责搜索和设备的微软公司副总裁 Yusuf Mehdi 指出五周前 New Bing 就是使用 GPT-4 了。那么下面简单介绍一下 GPT-4。


ChatGPT 是一个大型多模态模型,可以接受图像和文本输入,并生成文本输出。虽然在许多生活实际场景中不如人类,但 GPT-4 在各种专业和学术测试中表现出拥有专业人士的水平,包括通过美国律师资格考试 Uniform Bar Exam 并获得了排名前 10%左右的分数。


GPT-4 是基于 Transformer 的模型,经过训练后可以预测文档中的 next token。为了提高准确性和确保 GPT-4 遵守行为规范,OpenAI 在预训练阶段使用 RLHF,同时在后训练过程中控制模型。

02 GPT-4 的强大功能

根据 OpenAI GPT-4 发布会以及 OpenAI Blog 的相关介绍,我们可以了解 GPT-4 的如下表现:


  1. GPT-4 能够很好的进行文本的总结和加工。能够完成一些 GPT-3.5 做不了的文章总结任务,比如将一段文本总结为均由 G 开头字母组成的一句话,将一段文本总结成一段能够押韵的话语等。

  2. GPT-4 的代码生成功能更加强大。能够用 GPT-4 实现一个 Discord 机器人,它通过先生成伪代码,然后根据伪代码一步一步实现具体功能。

  3. GPT-4 可以接受图像输入,能够要求它对图片进行描述。

  4. GPT-4 生成回答的文本长度大大增加,现在可以达到 32000 个 tokens。

  5. 能够根据人类绘制的原型图草图生成 HTML。这个功能真的是太强大啦!

  6. 能够实现复杂推理,比如 OpenAI GPT-4 发布会上用到的税务例子,他会根据你给他的税务法律等文件进行复杂推理,帮你解决税务疑问。


03 GPT-4 的技术路线

目前尚未公布过多细节,基于目前笔者掌握的情况,GPT-4 和 ChatGPT 所使用的 GPT3.5 技术路线应该基本一致,对原理有兴趣的朋友可以参考这篇关于ChatGPT的技术解析


不过 GPT-4 使用了更多优质(着重强调优质)数据进行训练,以及模型的参数更大。


最近也涌现出了许多优质的开源大语言模型,我们对此进行了整理,供小伙伴们参考。也欢迎大家持续贡献输入,一同完善更新列表。


Awesome Open Source LLMs 列表地址: https://github.com/BaihaiAI/IDP/blob/main/AIGC/Awesome%20LLMs%20-%20a%20list%20for%20trending%20open%20source%20LLM%20projects.md


如果觉得有帮助,麻烦帮忙分享哦

发布于: 刚刚阅读数: 6
用户头像

Baihai IDP

关注

还未添加个人签名 2021-08-31 加入

IDP(Intelligent Development Platform)是面向数据科学家和算法工程师的新一代AI开发生产平台,便捷、高效数据科学家对数据接入与探索、模型开发、调试、训练和模型发布的需求。

评论

发布
暂无评论
3分钟快速了解GPT-4_人工智能_Baihai IDP_InfoQ写作社区