Skip to content

AI

英伟达ChatRTX:建立本地AI助手

前言

ChatRTX 是英伟达提供的一个demo程序,它可以使用自己的文档、笔记等数据来定制个人版本的大语言模型(LLM) GPT聊天助手。

通过 RAG(retrieval-augmented generation)TensorRT-LLMRTX加速卡,可以使用定制化的 ChatBot 来快速获取到答案,因为它是运行在本地Windows PC或工作站的,这样可以更快和更安全。

它目前只支持Windows系统。

sklearn笔记(1):K近邻算法进行鸢尾花分类

前言

注: 阅读书籍《Introduction to Machine Learning with Python》过程中形成的笔记

scikit-learn(sklearn) 库是一个非常流行的Python机器学习库,使用之前安装依赖:

$ pip install numpy scipy matplotlib ipython pandas scikit-learn

FaceSwap进行视频AI换脸

引言

官网: https://faceswap.dev/

Faceswap is the leading free and Open Source multi-platform Deepfakes software.

源码: https://github.com/deepfakes/faceswap

FaceSwap is a tool that utilizes deep learning to recognize and swap faces in pictures and videos.

FaceSwap是目前GitHub上开源的使用比较多的AI换脸工具,要求NVIDIA显卡CUDA计算能力在3.5以上;目前手里的RTX3080计算能力是8.6。

Mac使用Stable Diffusion进行AI画图(CPU)

引言

https://github.com/CompVis/stable-diffusion

Stable Diffusion is a latent text-to-image diffusion model.

Stable Diffusion是近年来流行的AI生成图片工具,这里尝试在Mac电脑(非M1)上使用CPU进行图片生成。

整个安装过程异常崎岖,参考了很多博客文章但大部分都进行不下去,要么是系统本身缺某个软件包或版本不对,要么是Python相关的软件包安装不了。

TensorFlow读取.pb模型文件并预测图片

引言

TensorFlow通过Python接口训练好模型,然后使用C++ API加载.pb模型文件,再对图片进行预测判断,这需要解决几个问题:

  • 如何将训练好的模型保存为.pb格式文件?
  • 如何在C++ API中加载训练好的模型文件?
  • 如何在C++ API中读取图片并变成需要的格式?
  • 如果在C++ API中根据模型对图片进行预测判断?

源码编译TensorFlow为C++ API动态库

引言

根据文档 https://tensorflow.google.cn/install 进行TensorFlow的安装时,要特别注意环境依赖的版本号,如果某个依赖项版本号不一致就会出现问题,比如使用的Python版本、Bazel版本、ProtocolBuffers版本等。

如果是通过Pip安装Python库的形式会容易一些,但如果想从源码编译,尤其是想编译出C/C++ API动态库形式就会比较麻烦,即使编译成功还要避免和其它库出现ABI冲突,参考: https://github.com/rangsimanketkaew/tensorflow-cpp-api 可以节省很多时间。