
背景介绍
2024年8月,埃隆·马斯克旗下的xAI公司发布了最新的人工智能模型——Grok-2及其轻量版Grok-2 mini。作为Grok系列的升级版,Grok-2在文本和视觉理解方面展现了卓越的性能,并集成了X平台的实时信息。
性能提升与技术特点
Grok-2在多个关键领域表现出色,包括推理、阅读理解、数学、科学和编码。与前代Grok-1.5相比,Grok-2在研究生水平的科学知识(GPQA)、常识(MMLU、MMLU-Pro)和数学竞赛问题(MATH)等领域的表现可与其他前沿模型相媲美。此外,Grok-2在基于视觉的任务方面也表现优异,如视觉数学推理(MathVista)和基于文档的问答(DocVQA)。
在LMSYS聊天机器人竞技场排行榜中,Grok-2的早期版本“sus-column-r”凭借超过12,000个社区投票,整体排名第三,表现优于Claude 3.5 Sonnet和GPT-4-Turbo。特别是在编码任务中,Grok-2表现出色,获得第二名,证明了其强大的性能。

应用场景与用户体验
Grok-2和Grok-2 mini目前在X平台上测试,X Premium和Premium+用户可以通过X应用程序中的Grok选项卡访问。Grok-2 mini作为小巧但功能强大的模型,在速度和答案质量之间取得了平衡。与前代产品相比,Grok-2更直观、可操作且功能多样,适用于寻求答案、协作写作和解决编码任务等多种场景。

用户反馈显示,Grok-2在响应速度和幽默感方面表现出色,并且由于集成了X平台的实时信息,能够对实时事件作出反应。此外,Grok-2还具备图像生成功能,用户可以输入提示词,生成相应的图像。

未来发展与企业应用
xAI计划在本月晚些时候通过新的企业API平台向开发者发布Grok-2和Grok-2 mini。即将推出的API建立在新的定制技术堆栈上,允许多区域推理部署,以实现全球低延迟访问。此外,xAI还提供了增强的安全功能,如强制性多因素身份验证、丰富的流量统计数据和高级计费分析。

通过与Black Forest Labs合作,xAI正在试验FLUX.1模型,以扩展Grok在X平台上的功能。未来,xAI计划发布多模态理解的预览版,作为X和API上Grok体验的核心部分。
本地部署
第一步:
进入Grok的官网:https://x.ai/api
点击Start building now。

第一次进入需要您注册一个账号,注意使用被允许的账号,例如outlook或者gmail等邮箱,有gmail的可以直接用gmail邮箱进行登录。
第二步:
进入后显示如下页面:

点击创建一个API key,见上图红色框。
点击后会出现相应的API key创建步骤,总共四步
(1)为您将要创建的API KEY起一个名字,随意起,建议最好是英文,点击next。

(2)选择您想要授予此 API 密钥的端点权限。启动即可,点击next。

(3)选择要运行推理的模型。启用所有的模型,点击save。

(4)此时,您的API key已经生成了。
一旦您的 API 密钥被配置,它就可以用于发出请求。

第三步:下载chatbox(一个集成调用大模型的应用程序,也有网页版)
桌面版本:https://github.com/Bin-Huang/chatbox/releases

版本全面,主流各类系统的对应版本都有,根据自己的系统下载相应的安装包程序即可。
下载完成以后直接打开,选择设置:

相应的参数填写按照下图即可:

API key输入上面在Grok官网生成的API key,模型填grok-beta即可。

最后保存即可。

这样,本地就已经部署好最新版本的grok-2的大语言模型了。
如果您有Chatgpt或者Claude的相应的API KEY也可以在这里直接进行配置,如果觉得这篇文章归您有用,那就点赞加评论吧,如果有什么问题,也可以评论留言。
评论列表 (0条):
加载更多评论 Loading...