导读：人工智能虽然可以生成代码，但也会时常犯错误，开发者仍需对代码安全、性能优化和用户体验负总体责任。当我们读完这句话的时间里，人工智能编码助手已经可以能生成 100 多行工作代码了。这对人类程序员来说很可怕吗？可以确定的说，一点也不。正因为生产力飞跃的原因，而让人类工程师变得越来越重要。而人工智能
2024-07-29
导读：本文回答有关 Ollama 的常见问题。Ollama 是一个免费的开源项目，可让您在本地运行各种开源 LLM。无论您想使用像 Codestral 这样的开源 LLM 来生成代码，还是使用 LLaMa 3 作为ChatGPT 的替代方案，Ollama 都可以实现。但这些是您可以在系统上使用 Ol
2024-07-20
研究称 AI 的涌现能力来自于评估模式的错误GPT-3 等大语言模型（LLM）随着规模的扩大而表现出意想不到的 “涌现” 能力。然而，有研究人员认为，这是测量错误的后果，而不是奇迹般的能力。他们认为，LLM 是概率模型，它们并不像有些人认为的那样拥有任何一种有知觉的智能。该团队观察到，大多数（92%
2024-07-16
OpenAI 用 GPT-4 来解释 GPT-2 的行为大语言模型（LLM）像大脑一样，它们是由 “神经元” 组成的，它们观察文本中的一些特定模式，以影响整个模型接下来 “说” 什么。但由于 LLM 中的参数数量多到已经无法由人类解释的程度，因此，LLM 给人一种 “黑盒” 的感觉，并出现了偏见、幻
2024-07-16
在数据隐私至关重要的时代，建立自己的本地大语言模型 (LLM)，为公司和个人提供了至关重要的解决方案。本教程目标在指导您完成使用Ollama、Python 3和ChromaDB创建自定义聊天机器人的过程，所有这些都托管在您的系统本地。以下是需要本教程的主要原因：完全自定义：在本地托管您自己的检索增强
2024-07-15
在瞬息万变的技术世界中，大型语言模型 (LLM) 已成为各行各业的关键技术。它们在自然语言处理、内容生成和数据分析方面的熟练程度为众多应用铺平了道路。本文让我们探索 15 个详细示例，了解哪些大厂和公司如何在现实场景中利用 LLM的。Netflix：不断发展的大数据就业补救措施Netflix 已从传
2024-07-12
行业快讯与友商动态 2024年第21期:RAG(基于检索增强的内容生成)产品和方案逐渐增多了，如微软开源GraphRAG项目，InfiniFlow开源项目RAGFlow，Elastic推出低代码平台Playground，利用Elasticsearch加速RAG开发等。RAG通过搜索内部信息给LLM提
2024-07-12
随着生成式 AI 概念的火爆，以 ChatGPT、通义大模型为代表，市场上涌现了一系列商用或者开源的大模型，同时基于大语言模型（LLM ）以及 AI 生态技术栈构建的应用以及业务场景也越来越多。 众所周知，LLM 包含数十亿甚至万亿级别的参数，其架构复杂，训练和推理涉及大量计算资源。这些特性使得它
2024-07-11
作者 | Eugene Yan、Bryan Bischof等 OneFlow编译 翻译｜宛子琳、张雪聃、杨婷 题图由SiliconCloud平台生成 这是一个激动人心的时代，所有人都能够利用语言大模型（LLM）进行各种各样的产品构建。
2024-07-04
上一篇大型语言模型LLM中，介绍了什么是LLM、LLM的基础内容，并提到LLM将利用词汇的分布生成文档。这一篇是关于提示和提示工程的介绍，主要内容是我们如何影响词汇的分布。在LLM中影响词汇的分布主要通过两种方式，一种是通过提示（Prompting），另外一种就是通过训练（Training）。提示是
2024-06-12
最近在学习OCI的生成式AI相关方面的内容，对相关内容做一下整理，内容涉及LLM基础、LLM架构、提示（Promot）、微调（fine-tuning）、各种模型、OCI的生成式AI、RAG，及向量数据库等等。争取写出一个系列的内容。什么是LLM？LLM（Large Language Model）是大
2024-06-11
本文将第二届OpenHarmony技术大会上展示的《在OpenHarmony本地部署大语言模型》成果开源，开源地址：https://gitee.com/openharmony-sig/tpc_c_cplusplus/blob/master/thirdparty/InferLLM/docs/hap_i
2024-06-06
如今的LLM应用具有多样化的时延要求。例如，聊天机器人可能需要快速的初始响应（例如，少于0.2秒），但在解码速度上只需要匹配人类阅读速度，而代码补全则需要快速的端到端生成时间，以实现实时代码建议。
2024-05-31
在近日巴黎举行的初创企业年度技术大会VivaTech上，有着“人工智能业鲁迅”之称的Meta AI的首席执行官Yann LeCun建议希望在AI生态系统中工作的学生不要从事LLM（大型语言模型或称“法学硕士”）方面的工作。“如果你是对构建下一代AI系统感兴趣的学生，请不要从事LLM方面的工作。这是大
2024-05-31
从ChatGPT发布后的一段时间，我们见证了大型语言模型（LLM）爆炸式增长，在来自四面八方的消息中，我们了解了大模型似乎在不断渗透到各行各业，改变着生产模式。但，在实际行业应用上还是很难跟上所有技术上已经取得的发展，数据安全以及大量的硬件资源需求等方面成了大模型应用落地过程中经常需要讨论的重要内容
2024-05-09
当前时代，预训练的大型语言模型 (LLM)，例如 OpenAI 的 GPT-4 和 Meta 的 Llama x，已经越来越受开发者们的欢迎，它们比之前版本具有更好的可用性，在使用生成式 AI 的应用程序开发中发挥着关键的作用。作为软件开发者，如何快速将 LLM 支持的功能纳入你的应用程序中？通过上
2024-05-06
本文提到大模型通常的工作方式，即通过提示词进行问答，并指出了两个主要问题：历史对话信息的管理和令牌数量的限制。文章讨论了知识库问答和个人助手两个应用场景，并分析了各自面临的困境，如知识库无法有效处理多模态信息和大型文档，个人助手则受限于工具参数的复杂性和令牌长度。文章还提到了微调（FINE-TUNI
2024-04-19
Opera 近日宣布，其将在开发者频道的 Opera One 浏览器中添加对 150 个本地 LLM 模型的实验性支持。支持模型包括： Meta 的 Llama Vicuna Google 的 Gemma Mistral AI 的 Mixtral 使用本
2024-04-15
导读：本文在解释为什么LLM不能替代人类程序员和相关职位。生成式人工智能会取代人类程序员吗？应该不会。不过使用通用人工智能（ GenAI ）的人类可能会被取代。但是当今有这么多的大语言模型 （LLM），差距会有所不同。Gemma vs Code Llama 70B vs GPT-4 vs Claud
2024-03-13
谷歌已将向量搜索引入其 MySQL 数据库服务，这一步领先了 MySQL 的所属公司 Oracle，迄今为止，Oracle 尚未给 MySQL 添加任何大型语言模型（LLM）方面的功能。 谷歌云数据库副总裁安迪·古特曼斯 (Andi Gutmans) 表示，在过去 12 年里，谷歌在向量方面的创新
2024-03-13