首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Camelot Pdf提取失败解析

Camelot Pdf提取失败解析
EN

Stack Overflow用户
提问于 2019-11-13 12:47:50
回答 1查看 3.3K关注 0票数 3

我遇到卡米洛特图书馆的问题

我从PDF中提取数据,我的代码对前23页运行"ok“,但在本例中,它无法解析文本/表的结尾

我想问题是字符串是如此长的到达表边框。

也尝试过“流”,但效果最差。

PDF源数据

PDF输出布局

我的输出被解析为

代码语言:javascript
复制
"ALT4945\n24 V"
"70\/140 A   ALT5860\n12 V\n90 A"

期望的输出应该是

代码语言:javascript
复制
"ALT4945\n24 V 70\/140 A"
"ALT5860\n12 V\n90 A"

我为上一页正确工作的第一段代码是

代码语言:javascript
复制
tables = camelot.read_pdf("CROSSREFERENCE.pdf", pages=wPAGES, flavor="lattice")

从网站Camelot https://camelot-py.readthedocs.io/en/master/api.html,我得到了在pdf解析器上的可定位配置。

代码语言:javascript
复制
"" PARAMS for lattice
line_scale  (default: 15)
copy_text   ((default: None))
shift_text  (default: ['l', 't'])
line_tol    (default: 2)
joint_tol   (default: 2)
threshold_blocksize   (default: 15)
threshold_constant    (default: -2)
iterations   (default: 0)
resolution   (default: 300)
"""

然后我遇到了这个问题,试着用更多的平底来解决“玩”问题,但是没有找到赢家。

代码语言:javascript
复制
tables = camelot.read_pdf("CROSSREFERENCE.pdf", pages=wPAGES, flavor="lattice", split_text=True, resolution=720, line_scale=250, line_tol=3, joint_tol=3, threshold_blocksize=15)

tables = camelot.read_pdf("CROSSREFERENCE.pdf", pages=wPAGES, flavor="lattice", split_text=True, resolution=720, line_scale=250, line_tol=1, joint_tol=1, threshold_blocksize=3)

我能得到一些关于帕拉姆的建议来避免吗??

谢谢

edit1: PDF来源:https://www.siom.it/images/catalogo-motorini-alter.pdf (第24页)

EN

回答 1

Stack Overflow用户

发布于 2019-11-20 17:33:00

被测溶液

代码语言:javascript
复制
tables = camelot.read_pdf('./catalogo-motorini-alter.pdf', pages='24', 
                           flavor='stream', columns=['300'], split_text=True)

tables[0].df的输出如下:

代码语言:javascript
复制
                                         0                                                  1
0                CATALOGO SIOM ALTERNATORI                   BOSCH  \nBOSCH  \nBOSCH  \nBOSCH
1                       ALT4800\n12 V\n65A                                ALT4830\n12 V\n70 A
2   IMPIANTO : BOSCH\nCOD.OEM : 0120489186             IMPIANTO : BOSCH\nCOD.OEM : 0120488172
3           APPLICAZIONI :\n OPEL VAUXHALL                     APPLICAZIONI :\n OPEL VAUXHALL
4                      ALT4840\n12 V\n70 A                                ALT4890\n12 V\n90 A
5   IMPIANTO : BOSCH\nCOD.OEM : 0120488186             IMPIANTO : BOSCH\nCOD.OEM : 0123315500
6           APPLICAZIONI :\n OPEL VAUXHALL                             APPLICAZIONI :\n IVECO
7                      ALT4900\n12 V\n90 A                            ALT4940\n24 V\n70/140 A
8   IMPIANTO : BOSCH\nCOD.OEM : 0123320009             IMPIANTO : BOSCH\nCOD.OEM : 0120689535
9           APPLICAZIONI :\n AUDI SKODA VW  APPLICAZIONI :\n DROGMOLLER KASSBOHRER MERCEDE...
10                 ALT4945\n24 V\n70/140 A                                ALT5860\n12 V\n90 A
11  IMPIANTO : BOSCH\nCOD.OEM : 0120689541             IMPIANTO : BOSCH\nCOD.OEM : 0120450011
12      APPLICAZIONI :\n MAN MERCEDES BENZ                          APPLICAZIONI :\n CHRYSLER
13                     ALT6600\n12 V\n90 A                                ALT6610\n24 V\n80 A
14  IMPIANTO : BOSCH\nCOD.OEM : 0124325058             IMPIANTO : BOSCH\nCOD.OEM : 0124555001
15            APPLICAZIONI :\n FIAT LANCIA                     APPLICAZIONI :\n MERCEDES BENZ
16                                     Pag                                                .24

解释

文档来看,stream解析器似乎比lattice更适合共享文档:

Stream可用于解析在单元格之间有空白空间的表,以模拟表结构。

对于stream解析器发现不正确的列分隔符的情况,可以在columns参数(详细信息)中手动指定它们。然后split_text选项他说将文本拆分为以下列:)

讨论

虽然fpbhb在评论中批评了PDF,但对于您的具体情况,我还是相当乐观的。您共享的文档结构良好。所以我肯定会试着解析它。但是fpbhb的观点仍然是正确的,它是启发式的。因此,需要额外的预防措施.

我建议您使用正则表达式来测试您从camelot获得的信息。

您可以使用下面的代码作为起点:

代码语言:javascript
复制
import re
import logging

def test_tables(tables):
    # headers
    HEADER_L = re.compile('^CATALOGO SIOM ALTERNATORI$')
    HEADER_R = re.compile('^BOSCH  \nBOSCH  \nBOSCH  \nBOSCH$')

    # main cell rows
    CELL_ROWS = [
        re.compile('^ALT\d{4,6}?\n(12|14|24|28) ?V\n\d{2,3}(/\d{2,3})? ?A$'),
        re.compile('^IMPIANTO : .*?\nCOD.OEM : [\dA]{9,10}$'),
        re.compile('^APPLICAZIONI :(\n[A-Z \.-]*)?$')
    ]

    # bottom line should be Pag.##
    PAGE = re.compile('^Pag.\d{1,3}$')

    for ti, table in enumerate(tables):
        rows = table.df.to_numpy()
        # test headers
        if not HEADER_L.match(rows[0, 0]):
            logging.warning('tables[{}].df.iloc[0][0]: HEADER_L != {}'.format(ti, rows[0, 0]))
        if not HEADER_R.match(rows[0, 1]):
            logging.warning('tables[{}].df.iloc[0][1]: HEADER_R != {}'.format(ti, rows[0, 1]))

        # test bottom line
        page_str = ''.join(rows[-1])
        if not PAGE.match(page_str):
            logging.warning('tables[{}].df.iloc[-1]: PAGE != {}'.format(ti, page_str))

        # test cells
        for idx, row in enumerate(rows[1:-1]):
            row_idx = idx % 3
            pattern = CELL_ROWS[row_idx]
            if not pattern.match(row[0]):
                logging.warning('tables[{}].df.iloc[{}][0]: ROW {} != {}'.format(ti, idx+1, row_idx, row[0]))
            if not pattern.match(row[1]):
                logging.warning('tables[{}].df.iloc[{}][1]: ROW {} != {}'.format(ti, idx+1, row_idx, row[1]))

测试前24页

代码语言:javascript
复制
pages_till_24 = ','.join([str(i) for i in range(1,25)])
tables = camelot.read_pdf('./catalogo-motorini-alter.pdf', pages=pages_till_24, 
                          flavor='stream', columns=['300'], split_text=True) 
test_tables(tables)

它只给出一个无关紧要的警告(额外的空格)。

代码语言:javascript
复制
WARNING:root:tables[8].df.iloc[7][1]: ROW 0 != ALT122300
12 V 
45 A

结论

看起来你会很高兴,因为它看起来很有效,而且你有代码来测试其他页面。好运:)

票数 5
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/58837504

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档