我有以下示例代码,我从欧洲议会网站下载了有关给定立法提案的 pdf 文件:
编辑:我最终得到了链接并将其提供给 adobes 在线转换工具(请参阅下面的代码):
import mechanize
import urllib2
import re
from BeautifulSoup import *
adobe = "http://www.adobe.com/products/acrobat/access_onlinetools.html"
url = "http://www.europarl.europa.eu/oeil/search_reference_procedure.jsp"
def get_pdf(soup2):
link = soup2.findAll("a", "com_acronym")
new_link = []
amendments = []
for i in link:
if "REPORT" in i["href"]:
new_link.append(i["href"])
if new_link == None:
print "No A number"
else:
for i in new_link:
page = br.open(str(i)).read()
bs = BeautifulSoup(page)
text = bs.findAll("a")
for i in text:
if re.search("PDF", str(i)) != None:
pdf_link = "http://www.europarl.europa.eu/" + i["href"]
pdf = urllib2.urlopen(pdf_link)
name_pdf = "%s_%s.pdf" % (y,p)
localfile = open(name_pdf, "w")
localfile.write(pdf.read())
localfile.close()
br.open(adobe)
br.select_form(name = "convertFrm")
br.form["srcPdfUrl"] = str(pdf_link)
br["convertTo"] = ["html"]
br["visuallyImpaired"] = ["notcompatible"]
br.form["platform"] =["Macintosh"]
pdf_html = br.submit()
soup = BeautifulSoup(pdf_html)
page = range(1,2) #can be set to 400 to get every document for a given year
year = range(1999,2000) #can be set to 2011 to get documents from all years
for y in year:
for p in page:
br = mechanize.Browser()
br.open(url)
br.select_form(name = "byReferenceForm")
br.form["year"] = str(y)
br.form["sequence"] = str(p)
response = br.submit()
soup1 = BeautifulSoup(response)
test = soup1.find(text="No search result")
if test != None:
print "%s %s No page skipping..." % (y,p)
else:
print "%s %s Writing dossier..." % (y,p)
for i in br.links(url_regex="file.jsp"):
link = i
response2 = br.follow_link(link).read()
soup2 = BeautifulSoup(response2)
get_pdf(soup2)
在 get_pdf() 函数中,我想将 pdf 文件转换为 python 中的文本,以便我可以解析文本以获取有关立法程序的信息。谁能解释一下这是怎么做到的?
Thomas
听起来你找到了一个解决方案,但如果你想在没有网络服务的情况下做到这一点,或者你需要根据 PDF 页面上的精确位置来抓取数据,我可以建议我的库吗?pdfquery https://github.com/jcushman/pdfquery?它基本上将 PDF 转换为 lxml 树,可以将其输出为 XML,或者使用 XPath、PyQuery 或任何您想要使用的其他内容进行解析。
要使用它,一旦将文件保存到磁盘,您将返回pdf = pdfquery.PDFQuery(name_pdf)
,或者如果不需要保存则直接传入一个urllib文件对象。要使用 BeautifulSoup 获取 XML 进行解析,您可以这样做pdf.tree.tostring()
.
如果您不介意使用 JQuery 风格的选择器,可以使用带有位置扩展的 PyQuery 接口,这会非常方便。例如:
balance = pdf.pq(':contains("Your balance is")').text()
strings_near_the_bottom_of_page_23 = [el.text for el in pdf.pq('LTPage[page_label=23] :in_bbox(0, 0, 600, 200)')]
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)