微软开源的1-bit LLM推理框架——BitNet.cpp中文入门教程 近日,微软发布了一个全新的开源项目——BitNet.cpp,这是专为1-bit大语言模型(LLMs)推理而设计的框架。BitNet.cpp旨在通过优化内核为CPU上运行的1.58-bit模型提供...
从PyTorch、TensorFlow和PaddlePaddle模型转换为ONNX的完整教程 在深度学习领域,模型转换是一个常见的需求,尤其是在不同框架之间进行迁移时。ONNX(Open Neural Network Exchange)作为一种开放的深度学习模型格式,允许我们在不同的框架...
Ollama平台推出新功能 让你轻松运行 Hugging Face Hub 上的 GGUF 大模型 Ollama之前一直只支持从官网拉模型,虽然与llama同根同源,但是不支持gguf,就很扯... 现在,终于支持了..先将 Ollama 更新到最新版(本文发布时,官方版本已经更新至0.3.1...
Go语言OpenAI API 客户端库 支持官方全部接口调用 go-openai 是一个非官方的、由社区维护的 OpenAI API 客户端库,作者是 sashabaranov。该库为 Go 开发者提供了与 OpenAI 服务进行交互的接口,支持 GPT-...
基于Go语言实现chatGPT返回的内容接口直接输出组件 先说下,这个东西最开始是给typecho博客写插件的时候用的,我的构想是,插件中填写我生成的密钥(你可以搞成收费的...),然后通过这个Go后台,生成文章,而这个Go程序中则请求gpt生成文章内...
AI批量生成与发布短视频、自动化变现利器MoneyPrinterPlus:支持本地与云端语音模型,结合AI生图创作 它可以:使用AI大模型技术,一键批量生成各类短视频。它可以:一键混剪短视频,批量生成短视频不是梦。它可以:自动把视频发布到抖音,快手,小红书,视频号上。[x] 支持本地语音模型chatTTS, ...
基于ChatGPT协议的Typecho博客文章AI生成插件 AiContent是一款ChatGPT for typecho插件,输入关键词后,将AI生成的内容自动插入到编辑器内此插件可以完全自定义sk-key、模型、温度、服务器API接口地址等先看效果 ...
本地部署AI证件照,抠图、换背景、任意尺寸...有了这个神器,证件照通通自己搞定 最近有个Github开源的AI证件照神器火了,以后再也不用专门跑一趟照相馆拍证件照了!你随手一张日常生活照或自拍,上传到它那里,分分钟就能帮你换上。蓝底、白底,抠掉杂乱的背景,生成各种尺寸规格的...
FaceFusion 2.x/3.x 在 macOS 上的完整安装、配置与使用指南 请勿用于非法用途哟!1. 安装必要工具在安装 FaceFusion 前,确保安装以下工具:Git:版本控制工具brew install gitMiniconda:Python 虚拟环境管理工具b...
推荐几款在macOS下可以运行本地AI模型的软件 至于为嘛要在本地跑模型,我就不分析原因了,在macOS 14(Sonoma)上,有许多支持本地运行AI模型的软件,尤其是为了方便用户在本地运行LLM(大语言模型)和其他机器学习模型。以下是一些常...