名词解释

Mistral AI

Mistral AI是一家位于法国的人工智能公司，致力于开发开源的大型语言模型和定制的商业模型。 Mistral AI提供了多个开放源代码模型，包括Mistral 7B、Mistral 8x7B和Mistral 8x22B。

La Platforme

La Plateforme是Mistral AI提供的一个核心平台，它允许开发者和企业访问、部署和自定义Mistral的AI模型。这个平台支持在各种环境中使用Mistral的开源和商业模型，包括本地部署和云部署（如Azure、AWS、Snowflake）。平台提供高性能、高可用性和优秀的质量控制，确保用户能够高效地使用AI模型。此外，La Plateforme还提供了一套API和工具，使用户能够轻松地将Mistral AI技术集成到现有应用和服务中

Le Chat

Le Chat则是Mistral AI提供的一个聊天界面，允许用户通过对话形式与Mistral的AI模型进行交互。这个功能主要用于快速测试和演示Mistral模型的能力，例如在自然语言处理、内容生成等方面的应用。
Codestral

Codestral 是一种尖端的生成模型，专为代码生成任务（包括中间填充和代码完成）而设计和优化。 Codestral 经过 80 多种编程语言的培训，使其能够在常见和不太常见的语言上表现良好

Codestral使用场景

Codestral 提供了 Fill-in-the-middle（代码填充）和 Instruct (指令) 两个功能。

• Fill-in-the-middle允许用户定义代码的起始部分和可选的结束部分，然后模型将生成介于两者之间的代码。
• Instruct 主要用于处理基于指令的交互。用户可以通过这个端点发送更直接的指令性质的查询，模型则提供相应的代码或回应

这两个功能通过不同的API端点访问，分别对应不同的用途和交互方式：

• FIM endpoint: api.mistral.ai/v1/fim/completions
• Instruct endpoint: api.mistral.ai/v1/chat/completions

Codestral使用方法

1. 以Chat的方式使用Codestral
2. 调用Codestral API，codestral api使用需要绑定外国手机号码，

• python sdk 注意，仅支持python3.9以上版本
• curl

3. 其他工具集成

• IDE工具：Continue.dev 和 Tabnine
• AI agent: LangChain 和 LlamaIndex

Chat

URL：Le Chat

例子：分析yacos代码中的MsgOrderView

调用Codestral API

参考：mistral文档

例子：定义斐波那契数列函数的开头和结尾，由Codestral 模型生成介于两者之间的代码。

$ curl --location '某个端口是443的协议codestral.mistral.ai/v1/fim/completions' \
--header 'Content-Type: application/json' \
--header 'Accept: application/json' \
--header "Authorization: Bearer " \
--data '{
    "model": "codestral-latest",
    "prompt": "def f(",
    "suffix": "return a + b",
    "max_tokens": 32,
    "temperature": 0
}'	

响应

{
    "id": "6500b489a30a43f78b99b8f7566b6525",
    "object": "chat.completion",
    "created": 1718039078,
    "model": "codestral-latest",
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "a, b):\n\n    if a > b:\n        return a\n    else:\n        return b\n\ndef g(a, b):\n\n    if a < b:\n        return a\n    else:\n        return b\n\ndef h(a, b):\n\n",
                "tool_calls": null
            },
            "finish_reason": "length",
            "logprobs": null
        }
    ],
    "usage": {
        "prompt_tokens": 10,
        "total_tokens": 74,
        "completion_tokens": 63
    }
}

与Continue.dev工具集成

参考：mistral文档

Continue.dev文档

Codestral X Continue Demo

例子

1 对指定代码，使用自然语言进行修改。

对下面内容去重并排序

2 对指定代码，以chat方式提问

使用中文，分析代码作用

相关产品