在macOS上转换和运行CoreML模型 开源大模型很多,为了让我的小Mac能够高效的推理,故有此文。 模型运行 在 Github 上转了老半天才找到一个可供 Mac 使用的 App:Mochi Diffusion 将的到的模型放置在~/MochiDiffusion/models中,即可被加载使用。 具体使用步骤非常简单,就不再赘述。 模型 2024-10-24 研究小记
ChatGPT-我在GPT偷师的日常(GPT-like模型架构) 官方并未开源GPT模型的架构代码,故有此文,通过询问GPT4-mini,简单讲解了架构情况(不保证架构有效性)。 你好 你好!有什么我可以帮你的吗? Qwen2-VL是否有开源nn.Molde代码? Qwen-2-VL(通义千问-2视觉语言模型)的模型本身目前没有开源其底层代码,尤其是涉及到 nn. 2024-10-18 机器学习
利用MLX在macOS上微调模型 开源大模型很多,但终究还是找不到自己想要或者说适配业务的模型,因此就需要我们自己去进行模型微调。 本篇以开源模型openchat为例,使用MLX进行lora微调。 微调基本步骤如下: 下载模型 训练数据收集、清洗、整理 训练lora 测试先后变化 导出模型 下载模型 有 2024-10-09 研究小记
JavaAgent插桩技术介绍 Java 代理(agent)是一种拦截处理技术,它会在你的 Java 代码执行前进行拦截并按照你的要求进行字节码调整。 我们开发中使用的很多工具都是基于 Java 代理来实现的,比如 JRebel、以及诊断工具等。 Java Agent规范 因为其特殊性,Java Agent 规定,需要在 META 2024-07-02 Java
ASM字节码技术介绍 ASM是一个通用的 Java 字节码操作和分析框架。它可用于修改现有类或动态生成类(直接以二进制形式)。ASM 提供了一些常见的字节码转换和分析算法,可从中构建自定义复杂转换和代码分析工具。ASM 提供与其他 Java 字节码框架类似的功能,但更注重性能。由于它的设计和实现尽可能小巧和快速,因此非常 2024-07-01 Java
Office转PDF方案[Java版] 效果最佳的Office转PDF解决方案 找了很久总算是找到一些可用的转换方案,废话不多说,目前靠谱的解决方案大致分为以下几类: 开源组件版: openoffice/libroffice 企业版API版: WPS/Office 系统强依赖版: documents4j + Windows WPS/Win 2024-04-24 Java
JDK-`java.lang.util.stream`包解析 Java 的 Stream 包是 Java 8 中引入的一项重要特性,它提供了一种声明式、函数式风格的数据流处理方法。Stream 允许我们以声明式的方式对数据源进行操作和转换,并将结果聚合到最终的集合或输出。 主要的接口和抽象类的定义有: java.lang.AutoCloseable 自动关闭接 2024-01-25 Java
PowerShell安装Scoop Scoop 它是一个开源的Windows 包管理工具。 简介 Scoop是什么? Scoop是一个用于Windows操作系统的命令行软件包管理器。它的目标是简化在Windows上安装和管理软件包的过程。与其他包管理器不同,如Chocolatey,Scoop专注于命令行工具和开发人员工具的安装和管理。 2023-11-17 Powershell
Scoop安装常用环境 针对开发人员的常用环境安装。替代Choco。 Buckets.json 该文件可设置Scoop默认已知的仓库列表,请对应修改自己的$SCOOP_HOME/apps/scoop/current/buckets.json文件即可: { "main": "https://github.com/Sc 2023-11-07 环境搭建
Diesel ORM的使用 Diesel 是与 Rust 中的数据库交互的最有效方式,因为它对查询进行了安全且可组合的抽象。 Sqlite环境准备 在使用 Diesel 之前,需要从 Sqlite 官网下载并编译合适的 lib 包,并放置在 msvc 的库文件夹中。 这是很多人忽略的问题,在进行cargo install di 2023-09-20 Rust