Published onJuly 27, 2024CloudFlare llama 3.1 免费大尝鲜:中文效果令你意想不到LLMLlama3CloudFlareCloudflare 最近在其 Worker AI 平台上推出了支持 Llama 3.1 模型的服务,现在你可以免费通过 Workers AI Playground 或 API 使用这一强大的模型,模型 ID 为 @cf/meta/llama-3.1-8b-instruct。
Published onJuly 24, 2024Llama 3.1:Meta 推出的最新版开源模型媲美 GPT-4oLLMLlama3有点意思,国内的大模型厂商又有得抄了,贴一张和其他 gpt-4o 和 Claude 3.5 的对比图。
Published onJuly 24, 2024和相册对话:Album AILLMAlbum AI 借助 LLM 和 RAG 技术实现了通过自然语言直接与相册对话,轻松找到你想要的照片。体验了一下还有点意思,不过输入 Woman 和 Man 的返回就有点奇怪。
Published onJuly 22, 2024大模型开发者必备:探索市场上常见的 LLM 部署平台FireworksLLMTogetherVercel随着大模型技术的蓬勃发展,在线运行测试大语言模型(LLM)的平台如雨后春笋般不断出现。这些平台为开发者、研究人员和爱好者提供了一个宝贵的资源,可以在无需复杂设置或大量投资的情况下,对不同模型进行实验。这篇文章我们会对比这些 LLM 部署平台,看看它们在功能、性能和可访问性方面的表现,帮助您决定哪个平台最适合您的需求。
Published onJuly 21, 2024Dify + OpenRouter + k8s:快速搭建准生产环境的LLM应用开发平台OpenAILLMOpenRouterDifyKubernetes 自 2022 年底 OpenAI 发布 GPT 3.5 以来,大模型市场风起云涌,已经是不可忽视的一种技术,而随着各大厂商的相互竞争,市面上大模型的价格越来越低,最近发布的 gpt-4o-mini 生成一本 2500 页的书籍,价格只需要 `60` 美分。在这种情况下,大模型的价格在可遇见的将来不会再成为大模型应用的瓶颈,而为了能够高效地开发和部署LLM应用,选择合适的平台和工具至关重要。本文将介绍如何利用Dify、OpenRouter和Kubernetes(k8s)快速搭建一个准生产环境的LLM应用开发平台,让你可以利用 Dify 快速构建出自定义的大模型智能体。
Published onJuly 14, 2024Kubernetes + Ollama:10 分钟教你在 Kubernetes 中快速部署 OllamaLLMOllama 在现代云原生应用的开发和部署过程中,Kubernetes 已成为最流行的容器编排工具。而 Ollama 作为一款高效安装大模型的工具,能与 Kubernetes 完美结合,实现高效、可扩展的大模型部署。本文将带你在 10 分钟内学会如何在 Kubernetes 中部署 Ollama。
Published onJuly 9, 2024Mac M1 + Ollama + Llama3:30 分钟教你在个人电脑快速安装配置大模型LLMOllamaLlama3你是否也在为周围的人热烈讨论大模型,而自己却无法参与其中而感到苦恼?别担心!今天,我们将带你通过一个简易且高效的教程,在个人电脑上快速安装和配置大模型。让大模型不再是你交流中的障碍,从此轻松应对各种AI话题。
Published onJune 29, 2024Obsidian + Text Generator + Smart Connections:打造沉浸式 AI 笔记工具ChatGPTObsidianLLM 在这个生成式 AI 技术突飞猛进的时代,如何利用大模型技术给我们的工作提效成为了一个重要课题。今天,我们就来探讨在 Obsidian 里面如何有效利用 Text Generator 以及 Smart Connections 这两大 AI 工具,显著提升你的笔记体验和知识管理效率。
Published onDecember 24, 2023保障API接口安全:深入了解并选择合适的API身份验证方法OpenAIOAuthAuthenticationLLM在现今互联网的世界里,API身份验证是确保我们数据安全的重要方式。从 Basic Authentication 到 OAuth,每一种认证方法都有其独特的应用场景和优势。这篇文章我们会详细分享几种常见认证方式及其使用场景,让大家在实际应用中可以快速和准确的使用最适合自己的认证方式。 ## 🔑 基本认证(Basic Authentication) 这是最简单的认证方式,就像是直接使用用户名和密码这把钥匙开锁。
Published onDecember 22, 2023Obsidian + Nextjs + Vercel:专家级知识管理与个人博客的完美融合ChatGPTObsidianExcalidrawLLM🤔 家人们,你是否也曾困惑于一个问题:我们如何将个人笔记高效地发布到线上呢?以往,你可能也常在 VSCode 中编辑博客的 Markdown 文件并发布,但这样做既无法享受良好的编写体验,又因为我们通常利用 OneNote、EverNote、Notion、Obsidian 等知识管理软件来整理笔记,这样造成了博客内容与知识管理软件分离,让博客的发布流程变得相当别扭和冗长。
Published onDecember 21, 2023Obsidian + ChatGPT + Excalidraw:打造高效学习与知识沉淀系统ChatGPTObsidianExcalidrawLLM 在这个知识爆炸的时代,如何高效地沉淀知识,成为了一个重要课题。今天,我们就来探讨如何通过结合Obsidian、ChatGPT以及Excalidraw这三大工具,打造一个基于人工智能的强大的学习与知识管理系统。
Published onNovember 23, 2023解决 ChatGPT 幻觉问题:利用向量数据库提高回答的准确性ChatGPTLLM 在人工智能领域,ChatGPT 以其强大的自然语言处理能力受到广泛关注。它能够流畅地与用户进行交流,回答各种复杂问题。然而,与所有先进的技术一样,ChatGPT 也有其局限性,尤其是在处理信息时偶尔会出现“幻觉”现象,即提供出不基于事实的错觉信息。本文将探讨这一问题以及如何利用向量数据库(如 Milvus)来减少此类错误,从而提高 ChatGPT 回答的可信度。