python

关注公众号 jb51net

关闭
首页 > 脚本专栏 > python > Python字符串解析

Python中两种“伪列表“字符串的解析技巧详解

作者:会飞的拖把

在 Python 开发中,我们经常会遇到看起来像 list,但实际是 str 的数据,本文通过两道实战题目,带你掌握两种不同场景下的解析方法,感兴趣的小伙伴可以了解下

在 Python 开发中,我们经常会遇到看起来像 list,但实际是 str 的数据。本文通过两道实战题目,带你掌握两种不同场景下的解析方法。

一、引言

你是否遇到过这样的情况:

data = '["qwen-turbo","qwen-plus","deepseek"]'
print(type(data))  # <class 'str'> ???

明明看起来是个列表,为什么类型是字符串?

更头疼的是,有时候字符串里还包含自定义对象,比如 LangChain 的 Document:

data = "[Document(metadata={'pk': 12, 'page': 2}, page_content='...')]"

这两种情况,解析方法完全不同!本文通过两道题,带你彻底搞懂。

二、第一题:标准格式字符串转列表

2.1 题目

raw_str = '["qwen-turbo","qwen-plus","deepseek"]'
# 将其转换为 list

2.2 分析

这是一个标准的 JSON 格式字符串,内容是字符串数组。

2.3 解决方案

方法一:json.loads()(推荐)

import json

raw_str = '["qwen-turbo","qwen-plus","deepseek"]'
result = json.loads(raw_str)

print(result)       # ['qwen-turbo', 'qwen-plus', 'deepseek']
print(type(result)) # <class 'list'>

优点:速度快,标准库支持,JSON 格式通用性强

方法二:ast.literal_eval()

import ast

raw_str = '["qwen-turbo","qwen-plus","deepseek"]'
result = ast.literal_eval(raw_str)

print(result)       # ['qwen-turbo', 'qwen-plus', 'deepseek']
print(type(result)) # <class 'list'>

优点:安全性高,只解析字面量,不会执行恶意代码

方法三:eval()(不推荐)

raw_str = '["qwen-turbo","qwen-plus","deepseek"]'
result = eval(raw_str)

print(result)       # ['qwen-turbo', 'qwen-plus', 'deepseek']

缺点:有安全风险,会执行任意 Python 代码,生产环境慎用!

2.4 三种方法对比

方法速度安全性适用场景
json.loads()⭐⭐⭐ 最快⭐⭐ 安全JSON 格式字符串
ast.literal_eval()⭐⭐ 一般⭐⭐⭐ 最安全Python 字面量格式
eval()⭐⭐ 一般⭐ 危险不推荐使用

三、第二题:对象格式字符串提取字段

3.1 题目

raw_str = """[Document(metadata={'pk': 12, 'page': 2}, page_content='2. 费⽤报销:业务活动中产⽣的费⽤...'),
Document(metadata={'pk': 27, 'page': 2}, page_content='2. 费⽤报销:业务活动中产⽣的费⽤...'),
Document(metadata={'pk': 14, 'page': 3}, page_content='3. 最后警告:情节严重,留司察看...')]"""

# 问题:如何获取里面的 page 属性?

3.2 分析

这个字符串包含 LangChain 的 Document 对象,它不是标准 JSON,而是 Python 的 repr() 输出格式。

为什么 json.loads() 不行?

import json
json.loads(raw_str)  # ❌ 报错!json.decoder.JSONDecodeError

原因:

  1. 字符串中使用了单引号 ',JSON 要求双引号 "
  2. 包含 Document(...) 这种自定义对象,不是 JSON 支持的数据类型

为什么 ast.literal_eval() 也不行?

import ast
ast.literal_eval(raw_str)  # ❌ 报错!ValueError: malformed node

原因:ast.literal_eval() 只能解析 Python 字面量(字符串、数字、列表、字典等),不能解析函数调用 Document(...)。

3.3 解决方案:正则表达式

import re
from collections import defaultdict

raw_str = "[Document(metadata={'pk': 12, 'page': 2}, page_content='...'), ...]"

# 方法1:只提取 page
pages = re.findall(r"'page':\s*(\d+)", raw_str)
pages = [int(p) for p in pages]
print(pages)  # [2, 2, 3]

# 方法2:提取 page + page_content
docs = re.findall(
    r"Document\(metadata=\{.*?'page':\s*(\d+).*?page_content='(.*?)'\)",
    raw_str,
    re.DOTALL
)

# 按页码分组
page_contents = defaultdict(list)
for page, content in docs:
    page_contents[int(page)].append(content)

# 按页码排序输出
for page in sorted(page_contents.keys()):
    combined = "\n".join(page_contents)
    print(f"=== 第 {page} 页 ===")
    print(combined)
    print()

3.4 正则表达式解析

r"'page':\s*(\d+)"
部分含义
'page':匹配字面量 'page':
\s*匹配 0 或多个空白字符
(\d+)捕获 1 或多个数字(这是我们想要的)
r"Document\(metadata=\{.*?'page':\s*(\d+).*?page_content='(.*?)'\)"
部分含义
Document\(匹配 Document(
metadata=\{匹配 metadata={
.*?非贪婪匹配任意字符
'page':\s*(\d+)捕获 page 的值
page_content='(.*?)'捕获 page_content 的内容
\)匹配 )

四、完整代码

4.1 第一题完整代码

import json
import ast

def parse_json_list(raw_str: str) -> list:
    """解析 JSON 格式的字符串列表"""
    return json.loads(raw_str)

def parse_python_list(raw_str: str) -> list:
    """解析 Python 字面量格式的字符串列表"""
    return ast.literal_eval(raw_str)

# 测试
raw_str = '["qwen-turbo","qwen-plus","deepseek"]'

result1 = parse_json_list(raw_str)
result2 = parse_python_list(raw_str)

print(f"json.loads: {result1}")
print(f"ast.literal_eval: {result2}")

4.2 第二题完整代码

import re
from collections import defaultdict

def extract_pages(raw_str: str) -> list:
    """从 Document 字符串中提取所有 page"""
    return [int(p) for p in re.findall(r"'page':\s*(\d+)", raw_str)]

def extract_docs_by_page(raw_str: str) -> dict:
    """从 Document 字符串中提取 page 和 page_content,按页分组"""
    docs = re.findall(
        r"Document\(metadata=\{.*?'page':\s*(\d+).*?page_content='(.*?)'\)",
        raw_str,
        re.DOTALL
    )

    page_contents = defaultdict(list)
    for page, content in docs:
        page_contents[int(page)].append(content)

    return dict(page_contents)

def combine_by_page(raw_str: str) -> str:
    """按页码拼接所有内容"""
    page_contents = extract_docs_by_page(raw_str)

    result = []
    for page in sorted(page_contents.keys()):
        combined = "\n".join(page_contents)
        result.append(f"=== 第 {page} 页 ===\n{combined}")

    return "\n\n".join(result)

# 测试
raw_str = """[Document(metadata={'pk': 12, 'page': 2}, page_content='2. 费⽤报销...'),
Document(metadata={'pk': 27, 'page': 2}, page_content='2. 费⽤报销...'),
Document(metadata={'pk': 14, 'page': 3}, page_content='3. 最后警告...')]"""

print("提取的页码:", extract_pages(raw_str))
print("\n按页拼接结果:")
print(combine_by_page(raw_str))

五、对比总结

对比项第一题(纯数据)第二题(对象格式)
字符串格式JSON 标准格式Python repr 格式
数据类型基本类型(字符串、数字)自定义对象(Document)
引号类型双引号 "单引号 '
能否用 json.loads()✅ 能❌ 不能
能否用 ast.literal_eval()✅ 能❌ 不能
能否用 eval()✅ 能⚠️ 需要 import Document
推荐方案json.loads()re.findall()

选型建议

遇到字符串形式的"列表"?
    │
    ├─ 是标准 JSON 格式? → json.loads()
    │
    ├─ 是 Python 基本字面量? → ast.literal_eval()
    │
    └─ 包含自定义对象? → 正则表达式提取

六、常见问题

Q1:为什么不推荐 eval()?

eval() 会执行任意 Python 代码,存在安全风险:

# 恶意输入
malicious = "__import__('os').system('rm -rf /')"
eval(malicious)  # 💀 危险!

Q2:正则表达式太难了,有更简单的方法吗?

如果字符串格式固定,也可以用字符串分割:

# 简单粗暴的方法
pages = []
for part in raw_str.split("'page': "):
    if part and part[0].isdigit():
        pages.append(int(part.split(",")[0]))

但正则更通用、更可靠。

Q3:LangChain 的 Document 对象为什么不是标准 JSON?

因为 Document 是 Python 类,它的 repr() 输出是 Python 语法,不是 JSON。这是 Python 对象序列化的常见问题。

七、总结

  1. 标准格式用标准工具:JSON 字符串用 json.loads()
  2. 复杂格式用正则:包含自定义对象的字符串,正则是最佳选择
  3. 安全第一:避免使用 eval(),除非你能完全信任输入源

掌握这两种技巧,以后再遇到"看起来像 list 的字符串",就不会懵了!

到此这篇关于Python中两种“伪列表“字符串的解析技巧详解的文章就介绍到这了,更多相关Python字符串解析内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
阅读全文