私有化部署大模型：5个.Net开源项目

开源项目"/>

私有化部署大模型：5个.Net开源项目

从零构建.Net前后端分离项目

今天一起盘点下，10月份推荐的5个.Net开源项目（点击标题查看详情）。

1、BootstrapBlazor企业级组件库：前端开发的革新之路

BootstrapBlazor是一个用于构建现代Web应用程序的开源框架，它基于Blazor框架，采用Bootstrap的UI样式。Blazor框架允许使用C#代替JavaScript来创建丰富的交互式UI，并将UI呈现为HTML和CSS，支持在众多浏览器中运行，包括移动浏览器。

1、开箱即用、丰富的企业级Blazor组件，除了兼容Bootstrap的样式库外，还额外增加了100多个组件；

2、支持基于WebAssembly客户端和SignalR服务端UI事件交互；

3、支持渐进式Web应用程序；

4、支持.Net5+；

5、支持ASP.NET CoreMVC、Razor Pages的项目。

2、Ocelot：.NET开源API网关提供路由管理、服务发现、鉴权限流等功能

Ocelot是一个用.NET Core实现并开源的API网关，它功能强大，包括了：路由、请求聚合、服务发现、认证、鉴权、限流熔断、并内置了负载均衡器与Service Fabric、Consul集成。

3、基于.NET的强大文件格式开源转换工具

一个基于.NET平台的开源文件格式转换工具，可以支持Windows 7/8/10等操作系统。安装后在右键菜单中出现 “File Converter” 项目，可以方便地通过右键菜单对选中文件进行格式转换，也支持批量文件转换。

同时支持多种文件格式的转换，包括几十种不同的文件格式。转换过程中不需要进行任何复杂的设置，只需等待转换完成即可。转换后的文件格式将自动保存在原始文件所在的目录中，且不会删除原始文件。

此外，还允许用户在设置中预先定义一些常用的格式转换参数，例如图片的压缩率、旋转角度以及转换后的文件命名方式等。如果需要调整这些参数，用户可以在「File Converter」设置里面进行调整。

4、Helix Toolkit：为.NET开发者带来的3D视觉盛宴

Helix Toolkit是一个开源的3D库，主要用于WPF应用程序。它有许多优点，例如提供各种各样的功能，包括基于MVVM的3D模型编辑器、可编程的着色器、3D网格渲染、相机控制和3D基元等。此外，它还支持各种3D模型导入器和导出器的Assimp.Net组件，方便在项目中使用不同格式的3D模型。

然而，Helix Toolkit也有一些缺点。首先，它基于SharpDX（directx11）实现，这可能会限制其在某些平台上的性能。其次，虽然它提供了许多功能，但对于一些特定领域的应用程序，可能还需要进行定制开发。

5、C#开源项目：私有化部署LLama推理大模型

LLama是Meta发布的一个免费开源的大模型，是一个有着上百亿数量级参数的大语言模型，支持CPU和GPU两种方式。

而LLamaSharp就是针对llama.cpp封装的C#版本，让方便我们基于C#开发应用，让我们不需要自己编译llama.cpp。它的性能接近llama.cpp，支持Windows、Linux和MAC。

- End -