通义千问-初体验

什么是"通义千问"？

通义千问是达摩院自主研发的超大规模语言模型，能够回答问题、创作文字，还能表达观点、撰写代码。

上阿里云官网看了下大模型部分，发现模型广场里已有十几款模型了。

体验

通义千问官网

通义大模型官网

如果你想API接入，可以看看官方文档-快速开始。

创建 API-KEY

首先，创建了API-KEY：传送门。

安装 SDK

其次，安装DashScope SDK，可惜目前只有 Python 和 Java的，没有 Go 的，相信后面会支持。我这里选择的是 Python，注意，需要 Python 3.7 及以上版本。

pip install dashscope

如果后续要更新 SDK 版本，则执行：

pip install dashscope --upgrade

API 接入 Demo

API文档：https://help.aliyun.com/zh/dashscope/api-reference

参考官网的例子，写一个简单程序体验下，通过prompt方式，接收流式输出，并简单美化了结果：

import dashscope
from dashscope import Generation

API_KEY = "替换成你自己的API_KEY哦，见https://dashscope.console.aliyun.com/apiKey"

# 方式1：从外围export环境变量 DASHSCOPE_API_KEY

# 方式2：通过SDK成员属性设置
dashscope.api_key = API_KEY

# 方式3：通过文件设置，SDK 默认会读取~/.dashscope/api_key作为API_KEY，如果想修改文件路径，也可以同方式1，设置环境变量来修改，环境变量名是：DASHSCOPE_API_KEY_FILE_PATH=YOUR_API_KEY_FILE_PATH

def sample_sync_call_streaming():
    prompt_text = '帮我写一份通义千问的介绍，面向的读者是对AI大模型有基本了解的人群，提供一些关键的链接。'
    response_generator = Generation.call(
        model='qwen-turbo',
        prompt=prompt_text,
        stream=True,
        top_p=0.8)

    head_idx = 0
    for resp in response_generator:
        paragraph = resp.output['text']
        print("\r%s" % paragraph[head_idx:len(paragraph)], end='')
        if (paragraph.rfind('\n') != -1):
            head_idx = paragraph.rfind('\n') + 1


sample_sync_call_streaming()

下面是它的输出：

通义千问是达摩院自主研发的超大规模语言模型，能够回答问题、创作文字，还能表达观点、撰写代码。

如果你想深入了解通义千问的功能和应用，可以点击以下链接：

1. 千问 - 百度百科：https://baike.baidu.com/item/%E4%B8%AD%E5%9B%BD%E6%96%87%E5%8C%96/30415

2. 通义千问 - 阿里巴巴达摩院官网：https://www.alibaba.com,Digitalpersona.html

3. 通义千问，打造最好的你：https://www.aliyun.com/enshouyang/202201/DYQ-0024.html

4. 通义千问，为你写诗：https://www.alibaba.com/enshouyang/202110/CMS-5208887.html

5. 解密通义千问：https://www.alipay.com/c/campaign/assistant/connected/techart/202202/07/202202071444576131.html

6. 人工智能大模型系列报道：https://www.sohu.com/a/484263310_110028717

7. 通义千问技术预览：https://www.docin.com/p-102888227.html

8. 大规模预训练模型能力开放：https://www.aliyun.com/enshouyang/202202/PDF-54278672.pdf

9. 大模型系列报道：https://www.nltk.org/handbook.html

10. OpenAI's GPT-3: What Is It and How Does It Work?：https://www.wired.com/story/openai-gpt-3-what-it-and-how-it-works/

希望这些链接能够帮助你更好地了解通义千问以及达摩院的人工智能技术。

计量计费

有一些免费额度，有效期半年，详情见官网，大伙抓紧时间用起来呀~

总结

本文只是简单试用，尝鲜，不是深入使用，所以不做深入评价，只提一些简单直观的感受：

1. 就目前经常使用的ChatGPT-3.5、文心一言、通义千问几个通用大模型而言（ChatGPT-4太强，暂不比较），ChatGPT-3.5整体虽然要好一些，但好的也有限，甚至有的地方还不如国内大模型，比如在英文翻译中文等方面，翻译结果还不如国内的大模型通顺、合理；
2. 百度把文心一言的入口放在里百度首页里，这个引流效果还是很明显的，并且已经先行推出了移动端APP，相对于其他国内大模型，有一定先发优势；
3. 通义千问的使用体验上，印象很深的一点是速度非常快，比同是国内大模型的文心一言要快很多，更不用说"墙外"的ChatGPT了，可以想象出是得益于阿里云的强大算力了；

总体而言，文心一言和通义千问各有优劣，因为上线时间还比较短，强行评价、定论会有失偏颇，还是让子弹飞一会再做深入评价。但是有一点可以肯定是，国内大模型正在飞速发展，至少离ChatGPT-3.5的距离正在缩短，考虑"墙"的因素，整体其实更优，API接入开发更方便。

最后，愿国内大模型越来越好，干翻ChatGPT！诞生更多实用、优秀的AI应用！