pytorch吧 关注:1,412贴子:2,540
  • 31回复贴,共1

微软 BioGPT 使用入门教程

只看楼主收藏回复

最近ChatGPT大火,但是很多人还不知道什么是GPT,GPT全称是generative pre-trained transformer(可生成的,预训练的transformer),实际上就是文本生成(text generation),只不过ChatGPT加入了对话,使得它可以通过理解人类的描述生成文本。
今天我们来用一下微软开源的BioGPT,BioGPT是微软开发的,针对生物医学领域的GPT模型,可用于关系提取、问答、文档分类和文本生成任务。据官方介绍,BioGPT在大多数任务上的表现均优于之前的模型,所以我们来尝试一下。
这篇教程只使用了文本生成模型,仅支持英文,因为我的显存只有4G,太小,加载模型会导致显存溢出,所以只使用到了CPU,没有使用GPU。
首先来安装环境。
我们要分别安装pytorch(参考之前的安装教程)、transformers和sacremoses(后面这两个直接使用pip安装即可)。
接下来输入如下代码:

然后把“COVID 19 is"换成自己想使用的文本开头即可。
需要注意,生成的结果都属于生物医学领域,比如我之前尝试的结果就是各种疾病之类的。
代码写完后直接执行,首次使用会下载模型到C盘的缓存目录,大概需要6G左右的空间,模型下载完成之后就会开始生成文本,比如我生成的结果:

祝吧友玩的开心~


IP属地:北京1楼2023-02-18 10:19回复
    楼主好人


    IP属地:河北2楼2023-02-18 10:27
    回复
      终于恢复了


      IP属地:北京来自Android客户端3楼2023-02-20 17:37
      回复


        IP属地:福建来自Android客户端4楼2023-02-25 14:52
        回复

          请问这样就算下载成功了吗,为什么还是*正在运行


          IP属地:上海5楼2023-03-16 14:15
          收起回复
            遇到这种情况,是电脑的配置不够吗


            IP属地:上海6楼2023-03-16 17:31
            收起回复
              吧主,我换了台电脑
              可以把当时下载的文件(6GB那个)传到新电脑,然后省去联网下载的过程吗


              IP属地:上海来自Android客户端8楼2023-03-18 16:43
              收起回复
                接入试用了一下,感觉生成答案的质量不是很高啊


                IP属地:北京10楼2023-10-30 14:09
                回复
                  这个模型能部署到本地吗,我尝试了一下仅在本地跑模型跑不通


                  IP属地:山东11楼2023-11-22 21:19
                  收起回复


                    IP属地:山东12楼2023-11-22 21:20
                    回复
                      你好,请问我为什么下载不了checkpoints.pt文件,显示我权限不够,大家有遇到这个问题吗,求解答


                      来自手机贴吧13楼2025-04-10 21:10
                      回复