分享

短短数天收获 5.6K star,本地搭建属于你自己的AI搜索引擎,太强了!

 冲天香阵 2024-04-12 发布于甘肃

推荐阅读:

大家好,我是开源君!

自从去年 ChatGPT 出现以来,各大公司都在想尽一切办法全力拥抱AI,研究各种自己的大模型,生怕会被对手落下。

今天逛Github,发现一个最近两天非常热门的开源项目 - FreeAskInternet,star数在狂涨,仅仅几天时间已经有5K star了。

图片

项目简介

FreeAskInternet是一个完全免费、私密且在本地运行的搜索聚合器和答案生成器(即问答AI工具),使用LLM技术,无需GPU。

我们可以直接可以进行提问,项目将使用searxng进行多引擎搜索,并将搜索结果与ChatGPT3.5 LLM结合,基于搜索结果生成答案。

所有过程在本地运行,可以完全不需要GPU或OpenAI或Google API密钥。

这个项目4月初才开源,短短数天的时间就已经有5.6k star了,并且在持续的增加。

图片

功能特性

  • 完全免费(无需任何API密钥)
  • 完全本地(不需要GPU,任何计算机都可以运行)
  • 完全私密(所有都在本地运行,使用定制llm)
  • 不使用LLM硬件(无需GPU)
  • 使用免费ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM) API(无需API密钥)
  • 支持自定义LLM(ollama,llama.cpp)
  • 使用Docker Compose快速部署和易于操作
  • 网页和移动设备友好界面,设计用于Web搜索增强AI聊天,可轻松从任何设备访问。

工作原理

  • 1、项目在FreeAskInternet UI界面(在本地运行)中接收用户输入的问题,并调用searxng(在本地运行)在多个搜索引擎上进行搜索。
  • 2、爬取搜索结果链接内容并传递给ChatGPT3.5 / Kimi / Qwen / ZhipuAI / ollama(使用自定义llm),请LLM根据这些内容作为参考回答用户问题。
  • 3、将答案流式传输到Chat UI。
  • 4、项目支持自定义LLM设置,从理论上来说支持无限的llm。

项目安装部署

部署方式也很简单,官方推荐使用docker

git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d 
图片

然后浏览器里打开下面这个地址即可:

http://localhost:3000

项目展示

首页

图片

基于搜索的聊天对话

图片

相关设置界面,支持ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM)api,自定义LLM,本地 ollama等模型

图片

关于如何获取和设置 Kimi / Qwen / ZhipuAI 的api,官方建议参考这个项目:https://github.com/LLM-Red-Team/kimi-free-api

图片

关于如何使用自定义的LLM,比如ollama:

1、启动ollama 服务

export OLLAMA_HOST=0.0.0.0
ollama serve
图片

2、设置里选择自定义模型,输入模型地址图片

3、开始使用图片

FreeAskInternet 是一款集免费、本地、隐私、强大搜索和智能问答于一身的实用工具。它打破了传统搜索引擎的局限,让你能够更加高效地获取信息。

更多项目细节功能,感兴趣的小伙伴自行到项目地址进行查看。

项目地址:
https://github.com/nashsu/FreeAskInternet

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多