wzw
V2EX  ›  问与答

轻量级的全文检索选哪个? 50 万内。

  •  
  •   wzw · Aug 21, 2020 via iPhone · 4066 views
    This topic created in 2272 days ago, the information mentioned may be changed or developed.

    目前只有 20 万条商品数据,python 写的后端 api 。

    目前用 whoosh,用得不爽。

    有什么全文搜索的推荐?
    -可以直接用内存最好。
    -Golang python 都行

    Supplement 1  ·  Aug 21, 2020
    如果自己写一个简易版本的, 直接初始化后方内存, 有什么好的例子可以学习吗、?

    我目前想到开单线程 flask,FastAPI, 向 api 一样提供服务,但是内存这块如何管理?
    12 replies  •  2021-11-19 12:26:34 +08:00
    wellsc
    wellsc
    Aug 21, 2020 via iPhone
    1
    Os.popen(‘grep -niR 关键字’)
    wzw
    wzw
    OP
    Aug 21, 2020 via iPhone
    2
    @wellsc 文本在数据库,用 jieba 分词
    jonah
    jonah
    Aug 21, 2020 via Android❤️1
    3
    iConnect
    iConnect
    Aug 21, 2020 via Android
    4
    es 是重了一点,那也是内存多消耗一些,其他又不会很重。
    damngood
    damngood
    Aug 21, 2020 via iPhone
    5
    golang 有个叫 bleve 的.
    我自己没用过,不过在一些开源项目里面看到过.
    ddup
    ddup
    Aug 21, 2020 via Android
    6
    lucene,想降低内存消耗的话,推荐用点 .net 版的 lucene.net ,Java 程序的内存消耗会高一些。
    然后包装为 REST API 。
    louettagfh
    louettagfh
    Aug 22, 2020
    7
    内容需要持久化吗
    wzw
    wzw
    OP
    Aug 23, 2020 via iPhone
    8
    @louettagfh 不需要
    wzw
    wzw
    OP
    Aug 23, 2020 via iPhone
    9
    @louettagfh 持有化部分放在数据库 ssdb 了
    nickchenyx
    nickchenyx
    Aug 23, 2020
    10
    redis lab 有一个 redis 的实现,可以试试你这个少量的 https://redislabs.com/redis-enterprise/redis-search/
    KalaSearch
    KalaSearch
    Aug 28, 2020❤️1
    11
    如果是商用,有预算可支付,面向国外用户考虑 Algolia,接 API 或者直接用 SDK 就行,Python Go etc 都有
    如果同样是商用且有预算,面向国内用户,考虑卡拉搜索,接 API 或者直接用 SDK 就行,目前有 Python 和 JS 的 SDK

    如果就是学习用,考虑深入研究下 Lucene 和 Elastic Search

    你的开线程像 API 一样提供服务,事实上就是个穷人版的 ES :D

    另外不推荐 Whoosh,已经不太活跃了
    patagonia111010
    patagonia111010
    Nov 19, 2021
    12
    @wzw 最后怎么解决的?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   988 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 39ms · UTC 19:15 · PVG 03:15 · LAX 11:15 · JFK 14:15
    ♥ Do have faith in what you're doing.