golang敏感词过滤的实现
作者：liyunlong41
本文主要介绍了golang敏感词过滤的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
用golang写了敏感词过滤的工具，主要用来检测用户昵称中是否存在敏感词，同时提供剔除转移字符的功能。
可以先将敏感词库存放在一个map中，敏感词可以参考这里：https://github.com/fwwdn/sensitive-stop-words
将map和昵称传入，程序会检查昵称的每一个子串，判断是否在map敏感词库中。复杂度O(len(name)^2)
package util
import (
"github.com/pkg/errors"
"strings"
)
type filter struct {
data string
maxLimitLen int
}
func NewKeywordFilter(str string, maxLimitLen int) (*filter, error) {
if len(str) > maxLimitLen {
return nil, errors.Errorf("长度：%d，不能超过：%d", len(str), maxLimitLen)
}
return &filter{
data: str,
maxLimitLen: maxLimitLen,
}, nil
}
func (f *filter) GetData() string {
return f.data
}
func (f *filter) FilterKeywords(keywords map[string]bool) (err error) {
if keywords == nil {
return
}
for i := 0; i < len(f.data); i++ {
for j := i + 1; j <= len(f.data); j++ {
subStr := f.data[i:j]
if _, found := keywords[subStr]; found {
err = errors.Errorf("昵称违规，建议修改")
}
}
}
return
}
func (f *filter) TrimAllCharset(ch []string) (err error) {
if ch == nil {
return
}
for _, c := range ch {
f.data = strings.Replace(f.data, c, "", -1)
}
if len(f.data) == 0 {
err = errors.New("剔除相关转移字符后，数据长度为0.")
return
}
return
}
到此这篇关于golang敏感词过滤的实现的文章就介绍到这了,更多相关golang敏感词过滤内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！