开发者

Python实现word文档内容智能提取以及合成

目录
  • 核心思路
  • 技术路径
  • 实现步骤
    • 阶段一:准备工作
    • 阶段二:内容提取 (python 脚本)
    • 阶段三:语言风格调整 (可选, Python + LLM API)
    • 阶段四:生成目标文档 (Python 脚本)
    • 阶段五:人工审阅与精修
  • 关于公式处理的挑战与策略
    • 总结

      如何从10个左右的docx文档中抽取内容,生成新的文档,抽取内容包括源文档的文字内容、图片、表格、公式等,以及目标文档的样式排版、字体、格式,还有目标文档的语言风格、用词规范、文法习惯等等。这是一个相当复杂的需求,因为它不仅涉及内容提取,还涉及深度格式化和风格模仿。完全自动化的完美解决方案难度极高,特别是对于复杂的公式和微妙的语言风格。

      一个务实的方案是采用 自动化 + 人工辅助 的混合策略。以下是详细的思路、技术路径、方法和步骤:

      核心思路

      内容提取 (自动化为主): 使用编程方式从源 DOCX 文件中提取所需的核心内容(文字、图片、表格、公式的某种表示)。

      样式应用 (自动化): 基于一个定义了目标样式、排版、字体等的 模板文档,将提取的内容插入新文档,并应用模板中定义的样式。

      语言风格调整 (自动化辅助 + 人工): 利用大型语言模型 (LLM) 或自然语言处理 (NLP) 技术对提取的文本进行初步的风格、用词和文法调整,然后进行人工审阅和精修。

      复杂元素处理 (人工为主): 对于难以自动处理的元素(如复杂公式、特定排版),进行人工调整。

      技术路径

      主要工具: Python 编程语言

      核心库:

      • python-docx: 用于读取和写入 DOCX 文件(文本、表格、图片、基本样式应用)。
      • (可选) 用于公式处理: 可能需要解析 DOCX 的底层 XML (OOXML),或者寻找专门处理 MathML/OMML 的库(这部分比较困难),或者将公式提取为图片。
      • (可选) 用于图片处理: Pillow (PIL Fork) 可能需要用于处理图片。
      • (可选) 用于语言风格调整: 调用大型语言模型 API (如 OpenAI GPT 系列、Google Gemini、或其他类似服务)。

      辅助工具:

      • Microsoft Word: 用于创建模板文档、最终审阅和调整。
      • XML 编辑器 (可选): 用于深入分析 DOCX 内部结构(特别是公式)。

      实现步骤

      阶段一:准备工作

      1.创建目标模板文档 (template.docx):

      • 在 Word 中创建一个新文档。
      • 定义样式: 精心设置所有需要的样式(标题 1、标题 2、正文、引用、列表、表格样式等),包括字体、字号、颜色、段落间距、缩进等。确保样式名称清晰易懂(例如 TargetHeading1, TargetBodyText, TargetTableStyle)。
      • 设置页面布局: 页边距、纸张大小、页眉页脚等。
      • 保存: 将此文档保存为 template.docx。这将是所有新生成文档的基础。

      2.明确提取规则:

      关键: 你需要非常清楚地定义 哪些 内容需要从每个源文档中提取出来。规则可以基于:

      • 特定标题: “提取 ‘第三章 方法’ 下的所有内容”。
      • 特定样式: “提取所有应用了 ‘源文档重点’ 样式的内容”。
      • 关键词/标记: “提取包含 ‘[EXTRACT]’ 标记的段落”。
      • 结构位置: “提取每个文档的第二个表格”。
      • 人工指定: (最灵活但最慢) 手动在源文档中标记要提取的内容(例如使用 Word 的批注功能或特定高亮颜色),然后让脚本识别这些标记。
      • 文档化规则: 将这些规则清晰地记录下来,以便编写脚本。

      3.设置开发环境:

      安装 Python。

      使用 pip 安装必要的库:

      pip install python-docx Pillow requests # 如果需要调用 LLM API
      # 可能需要其他库,取决于具体实现
      

      (可选) 获取 LLM API 密钥。

      阶段二:内容提取 (Python 脚本)

      import os
      from docx import Document
      from docx.shared import Inches
      # 可能需要导入其他模块,如处理 XML 或调用 API
      
      # --- 配置 ---
      SOURCE_DOCS_DIR = 'files/transform/docx/source_documents'
      TARGET_TEMPLATE = 'files/transform/docx/template.docx'
      OUTPUT_DOC_PATH = 'files/transform/docx/generated_document.docx'
      EXTRACTION_RULES = { # 示例规则,需要根据你的实际情况修改
          'source_doc_1.docx': {'heading_start': 'Chapter 3', 'heading_end': 'Chapter 4'},
          'source_doc_2.docx': {'style_name': 'SourceHighlight'},
          # ... 其他文档的规则
      }
      
      # --- 辅助函数 (示例) ---
      def should_extract_paragraph(paragraph, rules):
          # 实现基于规则判断段落是否应该提取的逻辑
          # 例如:检查段落文本是否匹配、样式是否匹配等
          # 返回 True 或 False
          # (这部分逻辑需要根据你的具体规则编写)
          style_name = paragraph.style.name
          text = paragraph.text.strip()
          # 示例:基于样式的简单规则
          if 'style_name' in rules and style_name == rules['style_name']:
              return True
          # 示例:基于起始标题的简单规则(需要状态管理)
          # if 'heading_start' in rules ... (需要更复杂的逻辑来跟踪当前章节)
          return False # 默认不提取
      
      def extract_content_from_doc(source_path, rules):
          """从单个源文档提取内容"""
          extracted_elements = []
          try:
              source_doc = Document(source_path)
              # 标记是否处于提取区域(例如,在特定章节之间)
              in_extraction_zone = False # 需要根据规则调整初始状态
      
              for element in source_doc.element.body:
                  # 处理不同类型的元素:段落、表格等
                  if element.tag.endswith('p'): # 是段落
                      paragraph = docx.text.paragraph.Paragraph(element, source_doc)
      
                      # --- 核心提取逻辑 ---
                      # 这里需要根据你的 EXTRACTION_RULES 实现复杂的判断逻辑
                      # 例如,判断是否遇到起始标题,是否遇到结束标题,段落样式是否匹配等
                      # 这是一个简化的示例,实际可能需要更精细的状态管理
                      if 'heading_start' in rules and paragraph.style.name.startswith('Heading') and rules['heading_start'] in paragraph.text:
                          in_extraction_zone = True
                          continue # 不提取起始标题本身?看需求
                      if 'heading_end' in rules and paragraph.style.name.startswith('Heading') and rules['heading_end'] in paragraph.text:
                          in_extraction_zone = False
                          continue # 到达结束标题,停止提取
      
                      if in_extraction_zone or should_extract_paragraph(paragraph, rules):
                           # 提取文本内容
                          text_content = paragraph.text
                           # 尝试提取基本格式(粗体、斜体) - 比较复杂,可能需要遍历 runs
                          # TODO: 提取图片 (需要检查段落中的 inline_shapes 或 runs 中的 drawing)
                          # TODO: 提取公式 (极具挑战性,见下文讨论)
                          extracted_elements.append({'type': 'paragraph', 'text': text_content, 'style': paragraph.style.name}) # 可以携带源样式名供参考
      
                  elif element.tag.endswith('tbl'): # 是表格
                      table = docx.table.Table(element, source_doc)
                      # --- 提取表格 ---
                      # TODO: 实现表格提取逻辑,可能需要检查是否在提取区域内
                      # if in_extraction_zone or table_should_be_extracted(table, rules):
                      table_data = []
                      for row in table.rows:
                          row_data = [cell.text for cell in row.cells]
                          table_data.append(row_data)
                      extracted_elements.append({'type': 'table', 'data': table_data})
      
                  # --- 处理图片 ---
                  # 查找段落内的图片 (inline_shapes)
                  # paragraph = docx.text.paragraph.Paragraph(element, source_doc) # Re-get paragraph object if needed
                  # for run in paragraph.runs:
                  #     if run.element.xpath('.//wp:inline | .//wp:anchor'): # Check for drawings
                  #         # This part is complex: need to get image data (rId) and relate it back
                  #         # to the actual image part in the docx package.
                  #         # python-docx can extract images, but associating them perfectly
                  #         # with their original position during extraction requires care.
                  #         # Placeholder:
                  #         # image_data = get_image_data(run, source_doc)
                  #         # if image_data:
                  #         #    extracted_elements.append({'type': 'image', 'data': image_data, 'filename': f'img_{len(extracted_elements)}.png'})
                  pass # Placeholder for image extraction logic
      
          except Exception as e:
              print(f"Error processing {source_path}: {e}")
          return extracted_elements
      
      # --- 主流程 ---
      all_extracted_content = []
      source_files = [f for f in os.listdir(SOURCE_DOCS_DIR) if f.endswith('.docx')]
      
      for filename in source_files:
          source_path = os.path.join(SOURCE_DOCS_DIR, filename)
          rules = EXTRACTION_RULES.get(filename, {}) # 获取该文件的提取规则
          if rules: # 只处理定义了规则的文件
              print(f"Extracting from: {filename}")
              content = extract_content_from_doc(source_pathandroid, rules)
              all_extracted_content.extend(content)
          else:
              print(f"Skipping {filename}, no rules defined.")
      
      print(f"Total elements extracted: {len(all_extracted_content)}")

      阶段三:语言风格调整 (可选, Python + LLM API)

      # --- ---
      import requests
      import json
      
      # --- 配置 LLM ---
      LLM_API_URL = "YOUR_LLM_API_ENDPOINT" # e.g., OpenAI API URL
      LLM_API_KEY = "YOUR_LLM_API_KEY"
      LLM_PROMPT_TEMPLATE = """
      请根据以下要求,改写这段文字:
      目标语言风格:[在此处详细描述,例如:正式、客观、简洁]
      用词规范:[在此处列出规范,例如:使用“用户”而非“客户”,避免使用缩写]
      文法习惯:[在此处描述,例如:多使用主动语态,句子长度适中]
      目标受众:[描述目标读者]
      编程
      原文:
      "{text}"
      
      改写后的文字:
      """
      
      def adapt_text_style(text):
          """使用 LLM API 调整文本风格"""
          if not text.strip():
              return text # 跳过空文本
      
          prompt = LLM_PROMPT_TEMPLATE.format(text=text)
          headers = {
              "Authorization": f"Bearer {LLM_API_KEY}",
              "Content-Type": "application/json",
          }
          data = {
              "model": "gpt-4", # 或你使用的模型
              "prompt": prompt,
              "max_tokens": 1024, # 根据需要调整
              "temperature": 0.5, # 控制创造性,较低值更保守
          }
          try:
              response = requests.post(LLM_API_URL, headers=headers, json=data)
              response.raise_for_status() # 检查 HTTP 错误
              result = response.json()
              # 解析 LLM 返回的结果,注意不同 API 的格式可能不同
              rewritten_text = result['choices'][0]['text'].strip() # 示例路径
              print(f"Original: {text[:50]}... | Rewritten: {rewritten_text[:50]}...")
              return rewritten_text
          except requests.exceptions.RequestException as e:
              print(f"Error calling LLM API: {e}")
              return text # 出错时返回原文
          except (KeyError, IndexError) as e:
              print(f"Error parsing LLM response: {e} - Response: {response.text}")
              return text # 出错时返回原文
      
      # --- 应用风格调整 ---
      adjusted_content = []
      for element in all_extracted_content:
          if element['type'] == 'paragraph':
              # --- 调用 LLM API ---
              # adjusted_text = adapt_text_style(element['text'])
              # element['text'] = adjusted_text # 更新文本
              # --- 或者先不调用,等生成后再处理 ---
              adjusted_content.append(element)
          elif element['type'] == 'table':
               # 表格内容也可以逐个单元格处理,但可能效果不佳或成本高
               # 更好的方法可能是将表格内容整理成文本描述给 LLM,或者人工处理
               adjusted_contentphp.append(element)
          elif element['type'] == 'image':
               # 图片无法直接处理
               adjusted_content.append(element)
          # 处理其他类型...
      
      # --- (接续到下一阶段:文档生成) ---
      

      阶段四:生成目标文档 (Python 脚本)

      # --- (续上) ---
      
      # --- 创建目标文档 (基于模板) ---
      try:
          target_doc = Document(TARGET_TEMPLATE)
      except Exception as e:
          print(f"Error loading template {TARGET_TEMPLATE}: {e}")
          # 可以考虑创建一个空文档作为后备
          # target_doc = Document()
          exit()
      
      
      # --- 填充内容并应用样式 ---
      for element in adjusted_content: # 使用调整后的内容,或者原始提取内容
          if element['type'] == 'paragraph':
              text = element['text']
              # --- 核心:应用模板中定义的样式 ---
              # 简单方式:所有段落应用默认正文样式
              # target_doc.add_paragraph(text, style='TargetBodyText') # 假设模板中有此样式
      
              # 复杂方式:根据源文档信息或内容判断应用哪个目标样式
              # 示例:如果源样式是 Heading 1,应用 TargetHeadiwww.devze.comng1
              source_style = element.get('style', '') # 获取源样式名(如果提取时保存了)
              if source_style.startswith('Heading 1'):
                   target_doc.add_paragraph(text, style='TargetHeading1') # 假设模板中有此样式
              elif source_style.startswith('Heading 2'):
                   target_doc.add_paragraph(text, style='TargetHeading2')
              # ... 其他样式映射规则
              else:
                   target_doc.add_paragraph(text, style='TargetBodyText') # 默认样式
      
          elif element['type'] == 'table':
              table_data = element['data']
              if table_data:
                  # 创建表格
                  num_rows = len(table_data)
                  num_cols = len(table_data[0]) if num_rows > 0 else 0
                  if num_rows > 0 and num_cols > 0:
                      # --- 应用模板中定义的表格样式 ---
                      table = target_doc.add_table(rows=num_rows, cols=num_cols, style='TargetTableStyle') # 假设模板中有此表格样式
                      # 填充数据
                      for i, row_data in enumerate(table_data):
                          for编程客栈 j, cell_text in enumerate(row_data):
                              # 防止列数不匹配错误
                              if j < len(table.rows[i].cells):
                                  table.rows[i].cells[j].text = cell_text
                      # 可以添加更多表格格式化代码,如设置列宽等
      
          elif element['type'] == 'image':
              # --- 添加图片 ---
              # image_data = element['data']
              # image_filename = element['filename']
              # # 需要将 image_data 保存为临时文件或使用 BytesIO
              # from io import BytesIO
              # image_stream = BytesIO(image_data)
              # try:
              #    target_doc.add_picture(image_stream, width=Inches(4.0)) # 调整宽度
              # except Exception as e:
              #    print(f"Error adding image {image_filename}: {e}")
              pass # Placeholder for image insertion
      
          # --- 处理公式 (挑战) ---
          # 如果公式被提取为图片:
          #   elif element['type'] == 'formula_image':
          #       # 添加图片...
          # 如果公式被提取为 MathML/OMML (XML 字符串):
          #   elif element['type'] == 'formula_mathml':
          #       # 使用 python-docx 直接插入 MathML 很困难
          #       # 可能需要直接操作 OOXML (非常复杂)
          #       # 或者,在段落中插入一个占位符 "[FORMULA]",然后手动替换
          #       target_doc.add_paragraph(f"[FORMULA: {element['id']}]", style='TargetBodyText')
          # 如果公式被提取为纯文本近似值:
          #   elif element['type'] == 'formula_text':
          #       target_doc.add_paragraph(element['text'], style='FormulaStyle') # 可能需要特殊样式
      
      # --- 保存最终文档 ---
      try:
          target_doc.save(OUTPUT_DOC_PATH)
          print(f"Document successfully generated: {OUTPUT_DOC_PATH}")
      except Exception as e:
          print(f"Error saving document: {e}")

      阶段五:人工审阅与精修

      1.打开生成的文档 (generated_document.docx)。

      2.检查整体结构和内容完整性: 是否所有需要的内容都被提取并放置在正确的位置?

      3.检查样式和格式:

      • 所有文本是否应用了正确的模板样式?
      • 字体、字号、间距是否符合要求?
      • 表格样式是否正确?列宽、对齐是否需要调整?
      • 图片位置和大小是否合适?

      4.检查语言风格和规范:

      • 通读文本,检查语气、用词是否符合目标要求。
      • 修正 LLM 可能产生的错误或不自然的表达。
      • 确保术语统一。
      • 进行拼写和语法检查。

      5.处理复杂元素:

      公式: 这是最可能需要手动操作的地方。如果脚本插入了占位符,你需要手动将源文档中的公式复制粘贴过来,或者使用 Word 的公式编辑器重新创建它们。确保公式的编号和引用正确。

      特殊排版: 检查是否有需要特殊布局(如图文混排、分栏等)的地方,并手动调整。

      6.最终定稿: 保存修改后的文档。

      关于公式处理的挑战与策略

      难点: DOCX 中的公式通常使用 OMML (Office Math Markup Language) 存储,嵌套在复杂的 XML 结构中。python-docx 对此支持有限。

      策略:

      • 提取为图片 (最可行): 尝试在提取阶段将公式渲染或截图为图片。这会丢失编辑能力,但能保证视觉效果。实现起来也有难度,可能需要借助其他工具或库(如 docx2python 库可能提供一些帮助,或者需要分析 OOXML 找到图片表示)。
      • 提取为 MathML/OMML (复杂): 解析 OOXML,提取公式的 XML 片段。但 python-docx 无法直接将这些 XML 重新插入并渲染为公式。需要非常底层的 OOXML 操作。
      • 提取为近似文本 (简单但损失精度): python-docx 读取包含公式的段落 text 属性时,有时会得到一个纯文本的近似表示。这对于简单公式可能够用,但复杂公式会完全失真。
      • 手动处理 (最可靠): 在脚本中识别出公式位置,插入占位符,然后在人工审阅阶段手动复制/创建公式。

      总结

      这是一个多阶段、结合自动化和人工的过程。

      自动化强项: 重复性的内容提取、基于模板的样式应用、初步的文本风格转换(使用 LLM)。

      人工介入点: 定义精确的提取规则、处理复杂公式、精调语言风格和术语、最终的格式微调和质量检查。

      投入时间最多的部分将是 编写和调试提取逻辑 以及 最终的人工审阅和修正。务必从少量文档和简单规则开始,逐步迭代和完善你的脚本。

      以上就是Python实现word文档内容智能提取以及合成的详细内容,更多关于Python word文档内容提取与合成的资料请关注编程客栈(www.devze.com)其它相关文章!

      0

      上一篇:

      下一篇:

      精彩评论

      暂无评论...
      验证码 换一张
      取 消

      最新开发

      开发排行榜