温州微网站制作电话福建：网站建设

温州微网站制作电话,福建：网站建设,大学做html个人网站素材,做外贸收费的服装网站文章目录前言【视频教程】1. Docker 部署2. 简单使用演示3. 安装 cpolar 内网穿透4. 配置公网地址5. 配置固定公网地址前言 LocalAI 的主要功能是让用户在本地部署和运行 AI 模型#xff0c;支持文本聊天、图像生成等多种任务#xff0c;所有数据处理都在本地完成#xff0…文章目录前言【视频教程】1. Docker 部署2. 简单使用演示3. 安装 cpolar 内网穿透4. 配置公网地址5. 配置固定公网地址前言LocalAI 的主要功能是让用户在本地部署和运行 AI 模型支持文本聊天、图像生成等多种任务所有数据处理都在本地完成不依赖外部服务器。作为经常用 AI 工具的人我很喜欢 LocalAI 的隐私保护能力处理敏感数据时特别放心而且它支持的模型多能根据需求随时切换操作界面也简单小白也能快速上手。用了 cpolar 后生成公网地址随时都能打开 LocalAI 处理工作。比如临时要给客户写方案直接用手机访问远程的 LocalAI 生成大纲效率提高不少工作场景更灵活再也不用被绑在局域网内的设备前了。本文主要介绍如何在本地服务器部署无需依托高昂价格的 GPU也可以在本地运行离线 AI 项目的开源 AI 神器 LoaclAI并结合 cpolar 内网穿透轻松实现远程使用的超详细教程。【视频教程】1. Docker 部署本例使用 Ubuntu 22.04 进行演示使用 Docker 进行部署如果没有安装 Docker可以查看这篇教程进行安装《Docker 安装教程——Linux、Windows、MacOS》安装好 Docker 后打开终端执行这行命令启动容器即可sudodocker run -ti --name local-ai -p8080:8080 localai/localai:latest-cpu这里使用的镜像是仅使用 CPU 来运行的镜像如果大家有 Nvidia 显卡的好 GPU也可以使用下方命令拉取支持 N 卡的镜像来运行容器sudodocker run -ti --name local-ai -p8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12更多项目配置与使用详情大家也可以访问作者的 github 主页进行查看https://github.com/mudler/LocalAI2. 简单使用演示容器启动后我们在 Ubuntu 中使用浏览器访问 http://localhost:8080 即可打开 LocalAI 的 Web UI 页面能看到页面中央提示我们现在还没有添加大模型我们可以点击 Gallery在跳转页面选择一个大模型可以看到在这个界面中有 600 多个大模型并且可以根据用途标签文字转语音、图片生成、文章生成等等进行筛选或者在下方输入框搜索指定的模型我这里以添加 llama-3.2-1b 模型来进行演示点击 install 按钮安装等待完成即可安装完成后点击页面上方导航条中的 HOME 回到主页即可发现刚刚添加的 llama-3.2 模型想要使用这个 AI 大模型点击上方导航中的 chat 即可与它聊天了点击右侧的模型选择下拉框中会显示你已经安装的大模型目前我只安装了这一个如果想继续安装其他大模型可以点击页面上方导航栏中的 Models 进行选择跳转的就是首次挑选模型安装的那个页面3. 安装 cpolar 内网穿透不过我们目前只能在本地局域网内访问刚刚部署的 LocalAI 来使用 AI 大模型聊天如果想不在同一局域网内时也能在外部网络环境使用手机、平板、电脑等设备远程访问与使用它应该怎么办呢我们可以使用 cpolar 内网穿透工具来实现远程访问的需求。无需公网 IP也不用设置路由器那么麻烦。下面是安装 cpolar 步骤Cpolar 官网地址:https://www.cpolar.com使用一键脚本安装命令sudocurlhttps://get.cpolar.sh|sh安装完成后执行下方命令查看 cpolar 服务状态如图所示即为正常启动sudosystemctl status cpolarCpolar 安装和成功启动服务后在浏览器上输入 ubuntu 主机 IP 加 9200 端口即:【http://localhost:9200】访问 Cpolar 管理界面使用 Cpolar 官网注册的账号登录,登录后即可看到 cpolar web 配置界面,接下来在 web 界面配置即可4. 配置公网地址登录 cpolar web UI 管理界面后,点击左侧仪表盘的隧道管理——创建隧道隧道名称可自定义本例使用了: localai 注意不要与已有的隧道名称重复协议http本地地址8080域名类型随机域名地区选择 China Top点击创建创建成功后打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了两个公网地址接下来就可以在其他电脑或者移动端设备异地上使用任意一个地址在浏览器中访问即可。如图所示现在就已经成功实现使用公网地址异地远程访问本地部署的 LocalAI 来用 AI 大模型聊天啦小结为了方便演示我们在上边的操作过程中使用 cpolar 生成的 HTTP 公网地址隧道其公网地址是随机生成的。这种随机地址的优势在于建立速度快可以立即使用。然而它的缺点是网址是随机生成这个地址在 24 小时内会发生随机变化更适合于临时使用。如果有长期使用 LocalAI或者异地访问与使用其他本地部署的服务的需求但又不想每天重新配置公网地址还想让公网地址好看又好记并体验更多功能与更快的带宽那我推荐大家选择使用固定的二级子域名方式来配置公网地址。5. 配置固定公网地址由于以上使用 cpolar 所创建的隧道使用的是随机公网地址24 小时内会随机变化不利于长期远程访问。因此我们可以为其配置二级子域名该地址为固定地址不会随机变化。注意需要将 cpolar 套餐升级至基础套餐或以上且每个套餐对应的带宽不一样。【cpolar.cn 已备案】点击左侧的预留选择保留二级子域名地区选择 china top然后设置一个二级子域名名称我这里演示使用的是mylocal大家可以自定义。填写备注信息点击保留。保留成功后复制保留的二级子域名地址登录 cpolar web UI 管理界面点击左侧仪表盘的隧道管理——隧道列表找到所要配置的隧道localai点击右侧的编辑。修改隧道信息将保留成功的二级子域名配置到隧道中域名类型选择二级子域名Sub Domain填写保留成功的二级子域名地区: China Top点击更新更新完成后打开在线隧道列表此时可以看到随机的公网地址已经发生变化地址名称也变成了保留和固定的二级子域名名称。最后我们使用固定的公网地址在任意设备的浏览器中访问可以看到成功访问本地部署的 LocalAI Web UI 页面这样一个永久不会变化的二级子域名公网网址即设置好了。以上就是如何在本地 Ubuntu 系统使用 Docker 快速部署开源 AI 服务 LocalAI并安装 cpolar 内网穿透工具配置固定不变的二级子域名公网地址实现随时随地远程在线与 AI 大模型交互的全部流程感谢您的观看有任何问题欢迎留言交流。总结LocalAI 结合 cpolar让本地 AI 服务的使用范围大大扩展兼顾隐私与便捷为用户带来更自由的 AI 应用体验值得一试。