Published on2024年7月22日大模型开发者必备:探索市场上常见的 LLM 部署平台LLMVercel随着大模型技术的蓬勃发展,在线运行测试大语言模型(LLM)的平台如雨后春笋般不断出现。这些平台为开发者、研究人员和爱好者提供了一个宝贵的资源,可以在无需复杂设置或大量投资的情况下,对不同模型进行实验。这篇文章我们会对比这些 LLM 部署平台,看看它们在功能、性能和可访问性方面的表现,帮助您决定哪个平台最适合您的需求。
Published on2024年7月21日探索 Disruptor:构建高吞吐量系统的核心代码解析Java Disruptor 是一种高性能的消息传递框架,最初由 LMAX 交易所开发,旨在解决高并发环境下的性能瓶颈问题。它的设计理念是通过减少锁的使用和内存屏障的数量,从而实现低延迟和高吞吐量的消息传递。本文将对 Disruptor 的核心代码进行解析,帮助大家理解其工作原理。
Published on2024年7月21日Dify + OpenRouter + k8s:快速搭建准生产环境的LLM应用开发平台LLMKubernetes自 2022 年底 OpenAI 发布 GPT 3.5 以来,市面上大模型的价格越来越低,最近发布的 gpt-4o-mini 生成一本 2500 页的书籍只需要 `60` 美分。本文将介绍如何利用Dify、OpenRouter和 k8s 快速搭建一个准生产环境的LLM应用开发平台。
Published on2024年7月14日Kubernetes + Ollama:10 分钟教你在 Kubernetes 中快速部署 OllamaLLMOllama 在现代云原生应用的开发和部署过程中,Kubernetes 已成为最流行的容器编排工具。而 Ollama 作为一款高效安装大模型的工具,能与 Kubernetes 完美结合,实现高效、可扩展的大模型部署。本文将带你在 10 分钟内学会如何在 Kubernetes 中部署 Ollama。
Published on2024年7月9日Mac M1 + Ollama + Llama3:30 分钟教你在个人电脑快速安装配置大模型LLMOllama你是否也在为周围的人热烈讨论大模型,而自己却无法参与其中而感到苦恼?别担心!今天,我们将带你通过一个简易且高效的教程,在个人电脑上快速安装和配置大模型。让大模型不再是你交流中的障碍,从此轻松应对各种AI话题。
Published on2024年7月7日Obsidian + Smart Connection + Ollama:让本地私有大模型成为你的笔记智能体ObsidianOllama 由于学校、公司或其他外部环境的限制,很多小伙伴无法使用诸如 OpenRouter、OpenAI 这样的外部闭源大模型。而最近也有不少人在留言中询问,如何在 Obsidian 的 Smart Connection 插件中使用自己搭建的 Ollama 模型。为了响应大家的需求,我们专门制作了这篇教程,教你如何在 Obsidian 的 Smart Connection 插件中无缝集成 Ollama 模型。希望这篇指南能为大家带来灵感和帮助,让你的笔记系统更加智能高效! ## 本地下载 Ollama 并运行模型 ### 安装 Ollama #### macOS
Published on2024年7月6日面向 RAG 的未来:深入探索微软 GraphRAG 技术LLM **AI 或许即将成为知识获取的主要途径**,但是理解海量非结构化信息对于大家来说依然是一个巨大的挑战,不过最近微软开源了 GraphRAG 的代码 - https://github.com/microsoft/graphrag ,正在试图解决这个问题。
Published on2024年7月3日个人开发者必备工具:OpenRouter 让市面上的大模型触手可及LLM 自 2022 年 OpenAI 对外推出了 ChatGPT 以来,市面上的其他各类大模型也如雨后春笋般出现。然而, 如果需要逐一对接目前市面上的这些模型,对于个人开发者和小型团队来说无疑是一个灾难。另外,各类模型需要的网络条件不一样,如果是身处某些被限制的地域,对接的成本则会更高。幸运的是,目前市面上提供了一种快速接入多钟大模型的解决方案——OpenRouter。本文将介绍如何借助 OpenRouter 快速搭建自己的大模型助手。
Published on2024年6月30日如何在 Obsidian 中实现自定义功能:插件开发详解Obsidian Obsidian 是一个非常受欢迎的知识管理和笔记软件,它支持 Markdown 语法,并允许用户通过插件来扩展其功能。如果你是一名开发者并对创建自己的 Obsidian 插件感兴趣,本文将引导你从零开始开发一个简单的 Obsidian 插件。
Published on2024年6月29日Obsidian + Text Generator + Smart Connections:打造沉浸式 AI 笔记工具ChatGPTObsidianLLM 在这个生成式 AI 技术突飞猛进的时代,如何利用大模型技术给我们的工作提效成为了一个重要课题。今天,我们就来探讨在 Obsidian 里面如何有效利用 Text Generator 以及 Smart Connections 这两大 AI 工具,显著提升你的笔记体验和知识管理效率。