接下来准备用糗百做一个爬虫的小例子。

但是在这之前,先详细的整理一下Python中的正则表达式的相关内容。

正则表达式在Python爬虫中的作用就像是老师点名时用的花名册一样,是必不可少的神兵利器。


以下内容转自CNBLOG:http://www.cnblogs.com/huxi/archive/2010/07/04/1771073.html

整理时没有注意,实在抱歉。


一、 正则表达式基础

1.1.概念介绍

正则表达式是用于处理字符串的强大工具,它并不是Python的一部分。

其他编程语言中也有正则表达式的概念,区别只在于不同的编程语言实现支持的语法数量不同。

它拥有自己独特的语法以及一个独立的处理引擎,在提供了正则表达式的语言里,正则表达式的语法都是一样的。

下图展示了使用正则表达式进行匹配的流程:

正则表达式的大致匹配过程是:

1.依次拿出表达式和文本中的字符比较,

2.如果每一个字符都能匹配,则匹配成功;一旦有匹配不成功的字符则匹配失败。

3.如果表达式中有量词或边界,这个过程会稍微有一些不同。

下图列出了Python支持的正则表达式元字符和语法:



1.2. 数量词的贪婪模式与非贪婪模式

正则表达式通常用于在文本中查找匹配的字符串。

贪婪模式,总是尝试匹配尽可能多的字符;

非贪婪模式则相反,总是尝试匹配尽可能少的字符。

Python里数量词默认是贪婪的。

例如:正则表达式"ab*"如果用于查找"abbbc",将找到"abbb"。

而如果使用非贪婪的数量词"ab*?",将找到"a"。


1.3. 反斜杠的问题

与大多数编程语言相同,正则表达式里使用"\"作为转义字符,这就可能造成反斜杠困扰。

假如你需要匹配文本中的字符"\",那么使用编程语言表示的正则表达式里将需要4个反斜杠"\\\\":

第一个和第三个用于在编程语言里将第二个和第四个转义成反斜杠,

转换成两个反斜杠\\后再在正则表达式里转义成一个反斜杠用来匹配反斜杠\。

这样显然是非常麻烦的。

Python里的原生字符串很好地解决了这个问题,这个例子中的正则表达式可以使用r"\\"表示。

同样,匹配一个数字的"\\d"可以写成r"\d"。

有了原生字符串,妈妈再也不用担心我的反斜杠问题~



二、介绍re模块

2.1. Compile

Python通过re模块提供对正则表达式的支持。

使用re的一般步骤是:

Step1先将正则表达式的字符串形式编译为Pattern实例。

Step2然后使用Pattern实例处理文本并获得匹配结果(一个Match实例)。

Step3:最后使用Match实例获得信息,进行其他的操作。

我们新建一个re01.py来试验一下re的应用

[python] view plain copy
  1. #-*-coding:utf-8-*-
  2. #一个简单的re实例,匹配字符串中的hello字符串
  3. #导入re模块
  4. importre
  5. #将正则表达式编译成Pattern对象,注意hello前面的r的意思是“原生字符串”
  6. pattern=re.compile(r'hello')
  7. #使用Pattern匹配文本,获得匹配结果,无法匹配时将返回None
  8. match1=pattern.match('helloworld!')
  9. match2=pattern.match('hellooworld!')
  10. match3=pattern.match('hellloworld!')
  11. #如果match1匹配成功
  12. ifmatch1:
  13. #使用Match获得分组信息
  14. printmatch1.group()
  15. else:
  16. print'match1匹配失败!'
  17. #如果match2匹配成功
  18. ifmatch2:
  19. #使用Match获得分组信息
  20. printmatch2.group()
  21. else:
  22. print'match2匹配失败!'
  23. #如果match3匹配成功
  24. ifmatch3:
  25. #使用Match获得分组信息
  26. printmatch3.group()
  27. else:
  28. print'match3匹配失败!'

可以看到控制台输出了匹配的三个结果:

下面来具体看看代码中的关键方法。

★ re.compile(strPattern[,flag]):

这个方法是Pattern类的工厂方法,用于将字符串形式的正则表达式编译为Pattern对象。

第二个参数flag是匹配模式,取值可以使用按位或运算符'|'表示同时生效,比如re.I | re.M。

另外,你也可以在regex字符串中指定模式,

比如re.compile('pattern',re.I | re.M)与re.compile('(?im)pattern')是等价的。

可选值有:

  • re.I(全拼:IGnorECASE): 忽略大小写(括号内是完整写法,下同)
  • re.M(全拼:MULTILINE): 多行模式,改变'^'和'$'的行为(参见上图)
  • re.S(全拼:DOTALL): 点任意匹配模式,改变'.'的行为
  • re.L(全拼:LOCALE): 使预定字符类 \w \W \b \B \s \S 取决于当前区域设定
  • re.U(全拼:UNICODE): 使预定字符类 \w \W \b \B \s \S \d \D 取决于unicode定义的字符属性
  • re.X(全拼:VERBOSE): 详细模式。这个模式下正则表达式可以是多行,忽略空白字符,并可以加入注释。


以下两个正则表达式是等价的:

[python] view plain copy
  1. #-*-coding:utf-8-*-
  2. #两个等价的re匹配,匹配一个小数
  3. importre
  4. a=re.compile(r"""\d+#theintegralpart
  5. \.#thedecimalpoint
  6. \d*#somefractionaldigits""",re.X)
  7. b=re.compile(r"\d+\.\d*")
  8. match11=a.match('3.1415')
  9. match12=a.match('33')
  10. match21=b.match('3.1415')
  11. match22=b.match('33')
  12. ifmatch11:
  13. #使用Match获得分组信息
  14. printmatch11.group()
  15. else:
  16. printu'match11不是小数'
  17. ifmatch12:
  18. #使用Match获得分组信息
  19. printmatch12.group()
  20. else:
  21. printu'match12不是小数'
  22. ifmatch21:
  23. #使用Match获得分组信息
  24. printmatch21.group()
  25. else:
  26. printu'match21不是小数'
  27. ifmatch22:
  28. #使用Match获得分组信息
  29. printmatch22.group()
  30. else:
  31. printu'match22不是小数'

re提供了众多模块方法用于完成正则表达式的功能。

这些方法可以使用Pattern实例的相应方法替代,唯一的好处是少写一行re.compile()代码,

但同时也无法复用编译后的Pattern对象。

这些方法将在Pattern类的实例方法部分一起介绍。

如一开始的hello实例可以简写为:

[html] view plain copy
  1. #-*-coding:utf-8-*-
  2. #一个简单的re实例,匹配字符串中的hello字符串
  3. importre
  4. m=re.match(r'hello','helloworld!')
  5. printm.group()

re模块还提供了一个方法escape(string),用于将string中的正则表达式元字符如*/+/?等之前加上转义符再返回


2.2. Match

Match对象是一次匹配的结果,包含了很多关于此次匹配的信息,可以使用Match提供的可读属性或方法来获取这些信息。

属性:

  1. string: 匹配时使用的文本。
  2. re: 匹配时使用的Pattern对象。
  3. pos: 文本中正则表达式开始搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。
  4. endpos: 文本中正则表达式结束搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。
  5. lastindex: 最后一个被捕获的分组在文本中的索引。如果没有被捕获的分组,将为None。
  6. lastgroup: 最后一个被捕获的分组的别名。如果这个分组没有别名或者没有被捕获的分组,将为None。

方法:

  1. group([group1,…]):
    获得一个或多个分组截获的字符串;指定多个参数时将以元组形式返回。group1可以使用编号也可以使用别名;编号0代表整个匹配的子串;不填写参数时,返回group(0);没有截获字符串的组返回None;截获了多次的组返回最后一次截获的子串。
  2. groups([default]):
    以元组形式返回全部分组截获的字符串。相当于调用group(1,2,…last)。default表示没有截获字符串的组以这个值替代,默认为None。
  3. groupdict([default]):
    返回以有别名的组的别名为键、以该组截获的子串为值的字典,没有别名的组不包含在内。default含义同上。
  4. start([group]):
    返回指定的组截获的子串在string中的起始索引(子串第一个字符的索引)。group默认值为0。
  5. end([group]):
    返回指定的组截获的子串在string中的结束索引(子串最后一个字符的索引+1)。group默认值为0。
  6. span([group]):
    返回(start(group),end(group))。
  7. expand(template):
    将匹配到的分组代入template中然后返回。template中可以使用\id或\g<id>、\g<name>引用分组,但不能使用编号0。\id与\g<id>是等价的;但\10将被认为是第10个分组,如果你想表达\1之后是字符'0',只能使用\g<1>0。
下面来用一个py实例输出所有的内容加深理解:

[python] view plain copy
  1. #-*-coding:utf-8-*-
  2. #一个简单的match实例
  3. importre
  4. #匹配如下内容:单词+空格+单词+任意字符
  5. m=re.match(r'(\w+)(\w+)(?P<sign>.*)','helloworld!')
  6. print"m.string:",m.string
  7. print"m.re:",m.re
  8. print"m.pos:",m.pos
  9. print"m.endpos:",m.endpos
  10. print"m.lastindex:",m.lastindex
  11. print"m.lastgroup:",m.lastgroup
  12. print"m.group():",m.group()
  13. print"m.group(1,2):",m.group(1,2)
  14. print"m.groups():",m.groups()
  15. print"m.groupdict():",m.groupdict()
  16. print"m.start(2):",m.start(2)
  17. print"m.end(2):",m.end(2)
  18. print"m.span(2):",m.span(2)
  19. printr"m.expand(r'\g<2>\g<1>\g<3>'):",m.expand(r'\2\1\3')
  20. ###output###
  21. #m.string:helloworld!
  22. #m.re:<_sre.SRE_Patternobjectat0x016E1A38>
  23. #m.pos:0
  24. #m.endpos:12
  25. #m.lastindex:3
  26. #m.lastgroup:sign
  27. #m.group(1,2):('hello','world')
  28. #m.groups():('hello','world','!')
  29. #m.groupdict():{'sign':'!'}
  30. #m.start(2):6
  31. #m.end(2):11
  32. #m.span(2):(6,11)
  33. #m.expand(r'\2\1\3'):worldhello!


2.3. Pattern

Pattern对象是一个编译好的正则表达式,通过Pattern提供的一系列方法可以对文本进行匹配查找。

Pattern不能直接实例化,必须使用re.compile()进行构造,也就是re.compile()返回的对象。

Pattern提供了几个可读属性用于获取表达式的相关信息:

  1. pattern: 编译时用的表达式字符串。
  2. flags: 编译时用的匹配模式。数字形式。
  3. groups: 表达式中分组的数量。
  4. groupindex: 以表达式中有别名的组的别名为键、以该组对应的编号为值的字典,没有别名的组不包含在内。
可以用下面这个例子查看pattern的属性:

[python] view plain copy
  1. #-*-coding:utf-8-*-
  2. #一个简单的pattern实例
  3. importre
  4. p=re.compile(r'(\w+)(\w+)(?P<sign>.*)',re.DOTALL)
  5. print"p.pattern:",p.pattern
  6. print"p.flags:",p.flags
  7. print"p.groups:",p.groups
  8. print"p.groupindex:",p.groupindex
  9. ###output###
  10. #p.pattern:(\w+)(\w+)(?P<sign>.*)
  11. #p.flags:16
  12. #p.groups:3
  13. #p.groupindex:{'sign':3}

下面重点介绍一下pattern的实例方法及其使用。

1.match

match(string[,pos[,endpos]]) | re.match(pattern,string[,flags]):

这个方法将从string的pos下标处起尝试匹配pattern;

如果pattern结束时仍可匹配,则返回一个Match对象;

如果匹配过程中pattern无法匹配,或者匹配未结束就已到达endpos,则返回None。

pos和endpos的默认值分别为0和len(string);

re.match()无法指定这两个参数,参数flags用于编译pattern时指定匹配模式。

注意:这个方法并不是完全匹配。

当pattern结束时若string还有剩余字符,仍然视为成功。

想要完全匹配,可以在表达式末尾加上边界匹配符'$'。

下面来看一个Match的简单案例:

[python] view plain copy
  1. #encoding:UTF-8
  2. importre
  3. #将正则表达式编译成Pattern对象
  4. pattern=re.compile(r'hello')
  5. #使用Pattern匹配文本,获得匹配结果,无法匹配时将返回None
  6. match=pattern.match('helloworld!')
  7. ifmatch:
  8. #使用Match获得分组信息
  9. printmatch.group()
  10. ###输出###
  11. #hello



2.search
search(string[,endpos]]) | re.search(pattern,flags]):
这个方法用于查找字符串中可以匹配成功的子串。

从string的pos下标处起尝试匹配pattern,

如果pattern结束时仍可匹配,则返回一个Match对象;

若无法匹配,则将pos加1后重新尝试匹配;

直到pos=endpos时仍无法匹配则返回None。

pos和endpos的默认值分别为0和len(string));

re.search()无法指定这两个参数,参数flags用于编译pattern时指定匹配模式。

那么它和match有什么区别呢?

match()函数只检测re是不是在string的开始位置匹配,

search()会扫描整个string查找匹配


match()只有在0位置匹配成功的话才有返回,如果不是开始位置匹配成功的话,match()就返回none
例如:
print(re.match(‘super’,‘superstition’).span())

会返回(0,5)

print(re.match(‘super’,‘insuperable’))

则返回None

search()会扫描整个字符串并返回第一个成功的匹配
例如:

print(re.search(‘super’,‘superstition’).span())

返回(0,5)
print(re.search(‘super’,‘insuperable’).span())

返回(2,7)

看一个search的实例:

[python] view plain copy
  1. #-*-coding:utf-8-*-
  2. #一个简单的search实例
  3. importre
  4. #将正则表达式编译成Pattern对象
  5. pattern=re.compile(r'world')
  6. #使用search()查找匹配的子串,不存在能匹配的子串时将返回None
  7. #这个例子中使用match()无法成功匹配
  8. match=pattern.search('helloworld!')
  9. ifmatch:
  10. #使用Match获得分组信息
  11. printmatch.group()
  12. ###输出###
  13. #world



3.split

split(string[,maxsplit]) | re.split(pattern,maxsplit]):
按照能够匹配的子串将string分割后返回列表。

maxsplit用于指定最大分割次数,不指定将全部分割。

[python] view plain copy
  1. importre
  2. p=re.compile(r'\d+')
  3. printp.split('one1two2three3four4')
  4. ###output###
  5. #['one','two','three','four','']


4.findall

findall(string[,endpos]]) | re.findall(pattern,flags]):
搜索string,以列表形式返回全部能匹配的子串。

[python] view plain copy
  1. importre
  2. p=re.compile(r'\d+')
  3. printp.findall('one1two2three3four4')
  4. ###output###
  5. #['1','2','3','4']


5.finditer

finditer(string[,endpos]]) | re.finditer(pattern,flags]):
搜索string,返回一个顺序访问每一个匹配结果(Match对象)的迭代器。

[html] view plain copy
  1. importre
  2. p=re.compile(r'\d+')
  3. forminp.finditer('one1two2three3four4'):
  4. printm.group(),
  5. ###output###
  6. #1234

6.sub

sub(repl,count]) | re.sub(pattern,repl,count]):
使用repl替换string中每一个匹配的子串后返回替换后的字符串。
当repl是一个字符串时,可以使用\id或\g<id>、\g<name>引用分组,但不能使用编号0。
当repl是一个方法时,这个方法应当只接受一个参数(Match对象),并返回一个字符串用于替换(返回的字符串中不能再引用分组)。
count用于指定最多替换次数,不指定时全部替换。

[python] view plain copy
  1. importre
  2. p=re.compile(r'(\w+)(\w+)')
  3. s='isay,helloworld!'
  4. printp.sub(r'\2\1',s)
  5. deffunc(m):
  6. returnm.group(1).title()+''+m.group(2).title()
  7. printp.sub(func,s)
  8. ###output###
  9. #sayi,worldhello!
  10. #ISay,HelloWorld!

7.subn

subn(repl,count]) |re.sub(pattern,count]):
返回 (sub(repl,count]),替换次数)。

[python] view plain copy
  1. importre
  2. p=re.compile(r'(\w+)(\w+)')
  3. s='isay,helloworld!'
  4. printp.subn(r'\2\1',s)
  5. deffunc(m):
  6. returnm.group(1).title()+''+m.group(2).title()
  7. printp.subn(func,s)
  8. ###output###
  9. #('sayi,worldhello!',2)
  10. #('ISay,HelloWorld!',2)

至此,Python的正则表达式基本介绍就算是完成了^_^

正则表达式基础教程的更多相关文章

  1. HTML5数字输入仅接受整数的实现代码

    这篇文章主要介绍了HTML5数字输入仅接受整数的实现代码,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下

  2. HTML5 WebSocket实现点对点聊天的示例代码

    这篇文章主要介绍了HTML5 WebSocket实现点对点聊天的示例代码的相关资料,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

  3. ios – 在Swift的UIView中找到UILabel

    我正在尝试在我的UIViewControllers的超级视图中找到我的UILabels.这是我的代码:这是在Objective-C中推荐的方式,但是在Swift中我只得到UIViews和CALayer.我肯定在提供给这个方法的视图中有UILabel.我错过了什么?我的UIViewController中的调用:解决方法使用函数式编程概念可以更轻松地实现这一目标.

  4. ios – 在Swift中将输入字段字符串转换为Int

    所以我非常擅长制作APP广告Swift,我试图在文本字段中做一些非常简单的输入,取值,然后将它们用作Int进行某些计算.但是’vardistance’有些东西不正确它是导致错误的最后一行代码.它说致命错误:无法解开Optional.None解决方法在你的例子中,距离是一个Int?否则称为可选的Int..toInt()返回Int?因为从String到Int的转换可能失败.请参阅以下示例:

  5. 如何在iOS中检测文本(字符串)语言?

    例如,给定以下字符串:我想检测每个声明的字符串中使用的语言.让我们假设已实现函数的签名是:如果没有检测到语言,则返回可选字符串.因此,适当的结果将是:有一个简单的方法来实现它吗?

  6. xamarin – 崩溃在AccountStore.Create().保存(e.Account,“);

    在Xamarin.Forms示例TodoAwsAuth中https://developer.xamarin.com/guides/xamarin-forms/web-services/authentication/oauth/成功登录后,在aOnAuthenticationCompleted事件中,应用程序在尝试保存到Xamarin.Auth时崩溃错误说不能对钥匙串说期待着寻求帮助.解决方法看看你

  7. ios – 将视频分享到Facebook

    我正在编写一个简单的测试应用程序,用于将视频从iOS上传到Facebook.由于FacebookSDK的所有文档都在Objective-C中,因此我发现很难在线找到有关如何使用Swift执行此操作的示例/教程.到目前为止我有这个在我的UI上放置一个共享按钮,但它看起来已禁用,从我读到的这是因为没有内容设置,但我看不出这是怎么可能的.我的getVideoURL()函数返回一个NSURL,它肯定包含视

  8. xcode – 错误“线程1:断点2.1”

    我正在研究RESTAPI管理器.这是一个错误,我无法解决它.我得到的错误在下面突出显示.当我打电话给这个班级获取资源时:我评论的线打印:Thread1:breakpoint2.1我需要修复错误的建议.任何建议都非常感谢解决方法您可能在不注意的情况下意外设置了断点.单击并拖动代表断路器外部断点的蓝色刻度线以将其擦除.

  9. ios – 更改导航栏标题swift中的字符间距

    类型的值有人可以帮我这个或建议一种不同的方式来改变swift中导航栏标题中的字符间距吗?解决方法您无法直接设置属性字符串.你可以通过替换titleView来做一个技巧

  10. ios – 如何从变量访问属性或方法?

    是否可以使用变量作为Swift中方法或属性的名称来访问方法或属性?在PHP中,您可以使用$object->{$variable}.例如编辑:这是我正在使用的实际代码:解决方法你可以做到,但不能使用“纯粹的”Swift.Swift的重点是防止这种危险的动态属性访问.你必须使用Cocoa的Key-ValueCoding功能:非常方便,它完全穿过你要穿过的字符串到属性名称的桥,但要注意:这里是龙.

随机推荐

  1. 法国电话号码的正则表达式

    我正在尝试实施一个正则表达式,允许我检查一个号码是否是一个有效的法国电话号码.一定是这样的:要么:这是我实施的但是错了……

  2. 正则表达式 – perl分裂奇怪的行为

    PSperl是5.18.0问题是量词*允许零空间,你必须使用,这意味着1或更多.请注意,F和O之间的空间正好为零.

  3. 正则表达式 – 正则表达式大于和小于

    我想匹配以下任何一个字符:或=或=.这个似乎不起作用:[/]试试这个:它匹配可选地后跟=,或者只是=自身.

  4. 如何使用正则表达式用空格替换字符之间的短划线

    我想用正则表达式替换出现在带空格的字母之间的短划线.例如,用abcd替换ab-cd以下匹配字符–字符序列,但也替换字符[即ab-cd导致d,而不是abcd,因为我希望]我如何适应以上只能取代–部分?

  5. 正则表达式 – /bb | [^ b] {2} /它是如何工作的?

    有人可以解释一下吗?我在t-shirt上看到了这个:它似乎在说:“成为或不成为”怎么样?我好像没找到’e’?

  6. 正则表达式 – 在Scala中验证电子邮件一行

    在我的代码中添加简单的电子邮件验证,我创建了以下函数:这将传递像bob@testmymail.com这样的电子邮件和bobtestmymail.com之类的失败邮件,但是带有空格字符的邮件会漏掉,就像bob@testmymail也会返回true.我可能在这里很傻……当我测试你的正则表达式并且它正在捕捉简单的电子邮件时,我检查了你的代码并看到你正在使用findFirstIn.我相信这是你的问题.findFirstIn将跳转所有空格,直到它匹配字符串中任何位置的某个序列.我相信在你的情况下,最好使用unapp

  7. 正则表达式对小字符串的暴力

    在测试小字符串时,使用正则表达式会带来性能上的好处,还是会强制它们更快?不会通过检查给定字符串的字符是否在指定范围内比使用正则表达式更快来强制它们吗?

  8. 正则表达式 – 为什么`stoutest`不是有效的正则表达式?

    isthedelimiter,thenthematch-only-onceruleof?PATTERN?

  9. 正则表达式 – 替换..与.在R

    我怎样才能替换..我尝试过类似的东西:但它并不像我希望的那样有效.尝试添加fixed=T.

  10. 正则表达式 – 如何在字符串中的特定位置添加字符?

    我正在使用记事本,并希望使用正则表达式替换在字符串中的特定位置插入一个字符.例如,在每行的第6位插入一个逗号是什么意思?如果要在第六个字符后添加字符,请使用搜索和更换从技术上讲,这将用MatchGroup1替换每行的前6个字符,后跟逗号.

返回
顶部