正则表达式
正则表达式(英語:,常简写为、或),又称規律表達式、正規、正規表示法、規則運算式、常規表示法,是计算机科学概念,用簡單字串来描述、匹配文中全部符合指定格式的字串,現在很多文本编辑器都支援用正則表达式搜尋、取代符合指定格式的字串。
「正则表达式」的各地常用名稱 | |
---|---|
中国大陸 | |
臺灣 | |
港澳 |
许多程序设计语言都支援用正則表达式操作字串,如Perl就内建功能强大的正則表达式引擎。正則表达式这概念最初由Unix的工具软件(例如sed和grep)普及开。
譯名問題
描述字串規律的表達式原應順理成章稱為規律表達式(pattern expression/rule expression),但卻叫成有欠準確的regular expression,導致現在有多種中譯名,如將regular譯成規律、規則、、正则或常規,將expression譯成表達式、、表示法或運算式等。
历史
最初的正则表达式出现于理论计算机科学的自动控制理论和形式化语言理论中。在这些领域中有对计算(自动控制)的模型和对形式化语言描述与分类的研究。
1940年,沃伦·麦卡洛克与沃尔特·皮茨将神经系统中的神经元描述成小而简单的自动控制元。
1950年代,数学家斯蒂芬·科尔·克莱尼利用称之为「正则集合」的数学符号来描述此模型。肯·汤普逊将此符号系统引入编辑器QED,随后是Unix上的编辑器ed,并最终引入grep。自此以后,正則表达式被广泛地应用于各种或类Unix系统的工具中。正则表达式的规范,分为基本型正则表达式(,)和扩展型正则表达式(,)两大流派。在兼容的系统上,和之类的工具都遵循规范,一些数据库系统中的正则表达式也符合规范。、、都属于,是历史最早的正则表达式,因此元字符必须转譯之后才具有特殊含义。、则属于,元字符不用转譯。
的正则表达式源自于Henry Spencer于1986年1月19日发布的,它已经演化成了(兼容正则表达式,Perl Compatible Regular Expressions),一个由Philip Hazel开发的,为很多现代工具所使用的库。
各編程语言之间關於正則表达式的整合,目前开發進展得很差。的子项目的设计中已考虑到了这点。
理论
正则表达式可以用形式化语言理论的方式来表达。正则表达式由常量和算子组成,它们分别表示字符串的集合和在这些集合上的运算。给定有限字母表Σ定义了下列常量:
定义了下列运算:
- 串接 表示集合,这里的表示将和两个字符串按顺序连接。例如:。
- 选择 表示和的并集。例如:。
- 克莱尼(Kleene)星号 表示包含且在字符串串接运算下闭合的的最小超集。这是可以通过中零或有限个字符串的串接得到所有字符串的集合。例如:。
上述常量和算子形成了克莱尼代数。
很多课本使用对选择使用符号、或替代竖线。
为了避免括号,假定星号有最高优先级,接着是串接,接着是并集。如果没有歧义则可以省略括号。例如:(ab)c
可以写为abc
,而a|(b(c*))
可以写为a|bc*
。
例子:
a|b*
表示。(a|b)*
表示包括空串和任意数目个a或b字符组成的所有字符串的集合:。ab*(c|ε)
表示开始于一个a接着零或多个b和最后一个可选的c组成的字符串的集合:。
为了使表达式更简洁,正则表达式也定义了?
和+
;aa*
等于a+
,表示a出现至少一次;而(a|ε)
等于a?
,表示a出现1次或不出现。有的定义中增加了补算子;表示在上但不在中的所有字符串的集合。补算子在理论上并非必要,因为它可以使用其他算子来表达,但它可以使一些表达式变得更加简洁。
这种意义上的正则表达式可以表达正则语言,是可被有限状态自动机精确接受的语言类。但是在简洁性上有重要区别。某类正则语言只能用大小指数增长的自动机来描述,而要求的正则表达式的长度只线性的增长。
正则表达式对应于乔姆斯基层级的类型-3文法。但通常编程语言或其相关库(例如PCRE)中实现的正则表达式的表达能力是乔姆斯基层级中类型-3文法的超集。在另一方面,在正则表达式和不导致这种大小上的爆炸的非确定有限状态自动机()之间有简单的映射;为此经常被用作正则表达式的替表示式。
这种形式化中存在着冗余,典型的体现是存在不同的正则表达式可以表达同样的语言。有可能对两个给定正则表达式写一个算法来判定它们所描述的语言是否本质上相等,即简约每个表达式到极小确定有限自动机,确定它们是否同构(等价)。这种冗余可以消减到什么程度?我们可以找到仍有完全表达力的正则表达式的有趣的子集吗?这提出了一个令人惊奇的困难问题。Kleene星号和并集明显是需要的,但是我们或许可以限制它们的使用。由于正则表达式如此简单,没有办法在语法上把它重写成某种规范形式。过去公理化的缺乏导致了星号高度问题。最近用克莱尼代数公理化了正则表达式。
很多现实世界的“正则表达式”引擎实现了不能用正则表达式代数表达的特征。
基本语法
一個正则表达式通常被稱為一個模式(),為用来描述或者匹配一系列符合某个句法规则的字符串。例如:Handel、Händel和Haendel這三个字符串,都可以由H(a|ä|ae)ndel
这个模式来描述。大部分正则表达式的形式都有如下的结构:
数量限定
某个字符后的数量限定符用来限定前面这个字符允许出现的个数。最常见的数量限定符包括+
、?
和*
(不加数量限定则代表出现一次且仅出现一次):
匹配
- 圆括号
()
可以用来定义操作符的范围和优先度。例如,gr(a|e)y
等价于gray|grey
,(grand)?father
匹配father和grandfather。
上述这些构造子都可以自由组合,因此H(ae?|ä)ndel
和H(a|ae|ä)ndel
是相同的,表示{"Handel", "Haendel", "Händel"}。
精确的语法可能因不同的工具或程序而异。
PCRE表达式全集
正则表达式有多種不同的风格。下表是在PCRE中元字符及其在正则表达式上下文中的行为的一个完整列表,适用于或者编程语言(或者的正则表达式文法是的子集):
字符 | 描述 |
---|---|
\ |
将下一个字符标记为一个特殊字符(,清单见本表)、或一个原义字符(,有「^$()*+?.[\{| 」共计12个)、或一个向后引用()、或一个八进制转义符。例如,「n 」匹配字符「n 」。「\n 」匹配一个换行符。序列「\\ 」匹配「\ 」而「\( 」则匹配「( 」。 |
^ |
匹配输入字符串的开始位置。如果设置了对象的属性,^也匹配「\n 」或「\r 」之后的位置。 |
$ |
匹配输入字符串的结束位置。如果设置了对象的属性,$也匹配「\n 」或「\r 」之前的位置。 |
* |
匹配前面的子表达式零次或多次。例如,zo*能匹配「z 」、「zo 」以及「zoo 」。*等价于{0,}。 |
+ |
匹配前面的子表达式一次或多次。例如,「zo+ 」能匹配「zo 」以及「zoo 」,但不能匹配「z 」。+等价于{1,}。 |
? |
匹配前面的子表达式零次或一次。例如,「do(es)? 」可以匹配「does 」中的「do 」和「does 」。?等价于{0,1}。 |
{n} |
n是一个非负整数。匹配确定的n次。例如,「o{2} 」不能匹配「Bob 」中的「o 」,但是能匹配「food 」中的两个o。 |
{n,} |
n是一个非负整数。至少匹配n次。例如,「o{2,} 」不能匹配「Bob 」中的「o 」,但能匹配「foooood 」中的所有o。「o{1,} 」等价于「o+ 」。「o{0,} 」则等价于「o* 」。 |
{n,m} |
m和n均为非负整数,其中n<=m。最少匹配n次且最多匹配m次。例如,「o{1,3} 」将匹配「fooooood 」中的前三个o。「o{0,1} 」等价于「o? 」。请注意在逗号和两个数之间不能有空格。 |
? |
非贪心量化():当该字符紧跟在任何一个其他重复修饰符(*,+,?,{n},{n,},{n,m})后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串「oooo 」,「o+? 」将匹配单个「o 」,而「o+ 」将匹配所有「o 」。 |
. |
匹配除「\r 」「\n 」之外的任何单个字符。要匹配包括「\r 」「\n 」在内的任何字符,请使用像「(.|\r|\n) 」的模式。 |
(pattern) |
匹配并获取这一匹配的子字符串。该子字符串用于向后引用。所获取的匹配可以从产生的集合得到,在中使用集合,在中则使用$0…$9属性。要匹配圆括號字符,请使用「\( 」或「\) 」。可带数量后缀。 |
(?:pattern) |
匹配但不获取匹配的子字符串(),也就是说这是一个非获取匹配,不存储匹配的子字符串用于向后引用。这在使用或字符「(|) 」来组合一个模式的各个部分是很有用。例如「industr(?:y|ies) 」就是一个比「industry|industries 」更简略的表达式。 |
(?=pattern) |
正向肯定预查(),在任何匹配的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,「Windows(?=95|98|NT|2000) 」能匹配「Windows2000 」中的「Windows 」,但不能匹配「Windows3.1 」中的「Windows 」。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。 |
(?!pattern) |
正向否定预查(),在任何不匹配的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如「Windows(?!95|98|NT|2000) 」能匹配「Windows3.1 」中的「Windows 」,但不能匹配「Windows2000 」中的「Windows 」。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始 |
(?<=pattern) |
反向()肯定预查,与正向肯定预查类似,只是方向相反。例如,「(?<=95|98|NT|2000)Windows 」能匹配「2000Windows 」中的「Windows 」,但不能匹配「3.1Windows 」中的「Windows 」。 |
(?<!pattern) |
反向否定预查,与正向否定预查类似,只是方向相反。例如「(?<!95|98|NT|2000)Windows 」能匹配「3.1Windows 」中的「Windows 」,但不能匹配「2000Windows 」中的「Windows 」。 |
x|y |
没有包围在()里,其范围是整个正则表达式。例如,「z|food 」能匹配「z 」或「food 」。「(?:z|f)ood 」则匹配「zood 」或「food 」。 |
[xyz] |
字符集合()。匹配所包含的任意一个字符。例如,「[abc] 」可以匹配「plain 」中的「a 」。特殊字符仅有反斜线\保持特殊含义,用于转义字符。其它特殊字符如星号、加号、各种括号等均作为普通字符。脱字符^如果出现在首位则表示负值字符集合;如果出现在字符串中间就仅作为普通字符。连字符 - 如果出现在字符串中间表示字符范围描述;如果如果出现在首位(或末尾)则仅作为普通字符。右方括号应转义出现,也可以作为首位字符出现。 |
[^xyz] |
排除型字符集合()。匹配未列出的任意字符。例如,「[^abc] 」可以匹配「plain 」中的「plin 」。 |
[a-z] |
字符范围。匹配在Unicode编码表指定范围内的任意字符。例如,「[a-z] 」可以匹配「a 」到「z 」范围内的任意小写字母字符。 |
[^a-z] |
排除型的字符范围。匹配任何不在Unicode编码表指定范围内的任意字符。例如,「[^a-z] 」可以匹配任何不在「a 」到「z 」范围内的任意字符。 |
[:name:] |
增加命名字符类()[註 1]中的字符到表达式。只能用于方括号表达式。 |
[=elt=] |
增加当前下排序()等价于字符“”的元素。例如,[=a=]可能会增加ä、á、à、ă、ắ、ằ、ẵ、ẳ、â、ấ、ầ、ẫ、ẩ、ǎ、å、ǻ、ä、ǟ、ã、ȧ、ǡ、ą、ā、ả、ȁ、ȃ、ạ、ặ、ậ、ḁ、ⱥ、ᶏ、ɐ、ɑ 。只能用于方括号表达式。 |
[.elt.] |
增加排序元素()到表达式中。这是因为某些排序元素由多个字符组成。例如,29个字母表的西班牙语, "CH"作为单个字母排在字母C之后,因此会产生如此排序“cinco, credo, chispa”。只能用于方括号表达式。 |
\b |
匹配一个单词边界,也就是指单词和空格间的位置。例如,「er\b 」可以匹配「never 」中的「er 」,但不能匹配「verb 」中的「er 」。 |
\B |
匹配非单词边界。「er\B 」能匹配「verb 」中的「er 」,但不能匹配「never 」中的「er 」。 |
\cx |
匹配由x指明的控制字符。x的值必须为A-Z 或a-z 之一。否则,将c视为一个原义的「c 」字符。控制字符的值等于x的值最低5比特(即对3210进制的余数)。例如,\cM匹配一个或回车符。\ca等效于\u0001, \cb等效于\u0002, 等等… |
\d |
匹配一个数字字符。等价于[0-9]。注意正则表达式会匹配全角数字字符。 |
\D |
匹配一个非数字字符。等价于[^0-9]。 |
\f |
匹配一个换页符。等价于\x0c和\cL。 |
\n |
匹配一个换行符。等价于\x0a和\cJ。 |
\r |
匹配一个回车符。等价于\x0d和\cM。 |
\s |
匹配任何空白字符,包括空格、制表符、换页符等等。等价于[ \f\n\r\t\v]。注意正则表达式会匹配全角空格符。 |
\S |
匹配任何非空白字符。等价于[^ \f\n\r\t\v]。 |
\t |
匹配一个制表符。等价于\x09和\cI。 |
\v |
匹配一个垂直制表符。等价于\x0b和\cK。 |
\w |
匹配包括下划线的任何单词字符。等价于「[A-Za-z0-9_] 」。注意正则表达式会匹配中文字符。 |
\W |
匹配任何非单词字符。等价于「[^A-Za-z0-9_] 」。 |
\xnn |
十六进制转义字符序列。匹配两个十六进制数字nn表示的字符。例如,「\x41 」匹配「A 」。「\x041 」则等价于「\x04&1 」。正則表达式中可以使用编码。. |
\num |
向后引用()一个子字符串(),该子字符串与正则表达式的第num个用括号围起来的捕捉群()子表达式()匹配。其中num是从1开始的十进制正整数,其上限可能是9[註 2]、31[註 3]、99甚至无限[註 4]。例如:「(.)\1 」匹配两个连续的相同字符。 |
\n |
标识一个八进制转义值或一个向后引用。如果\n之前至少n个获取的子表达式,则n为向后引用。否则,如果n为八进制数字(0-7),则n为一个八进制转义值。 |
\nm |
3位八进制数字,标识一个八进制转义值或一个向后引用。如果\nm之前至少有nm个获得子表达式,则nm为向后引用。如果\nm之前至少有n个获取,则n为一个后跟文字m的向后引用。如果前面的条件都不满足,若n和m均为八进制数字(0-7),则\nm将匹配八进制转义值nm。 |
\nml |
如果n为八进制数字(0-3),且m和l均为八进制数字(0-7),则匹配八进制转义值nml。 |
\un |
Unicode转义字符序列。其中n是一个用四个十六进制数字表示的字符。例如,\u00A9匹配版权符号(©)。 |
Unicode处理
在.NET、、、的正则表达式中,可以用\uXXXX
表示一个字符,其中XXXX
为四位16进制数字。
字符的三种性质:[5]
- Unicode Property:字符属于标点、空格、字母等等。每个字符只能属于唯一。.NET、、和等语言支持。具体分类为:
- 字符
\p{L}
\p{Ll}
或\p{Lowercase_Letter}
:小写字符(必须有大写的形式)。\p{Lu}
或\p{Uppercase_Letter}
:大写字符(必须有小写的形式)。\p{Lt}
或\p{Titlecase_Letter}
:全词首字母大写的字符。\p{L&}
或\p{Cased_Letter}
:存在大小写形式的字符(, , 的组合)。\p{Lm}
或\p{Modifier_Letter}
:音标修饰字符。\p{Lo}
或\p{Other_Letter}
:不具有大小写的字符或字形。
- 附加符号
\p{M}
\p{Mn}
或\p{Non_Spacing_Mark}
:与其他字符结合,不额外占用空间的字符,例如日耳曼語元音變音。\p{Mc}
或\p{Spacing_Combining_Mark}
:与其他字符结合,额外占用空间的字符,例如馬拉雅拉姆文#元音字母及附標。\p{Me}
或\p{Enclosing_Mark}
:包含其他字符的字符,例如圆圈、方块。
- 分隔符
\p{Z}
\p{Zs}
或\p{Space_Separator}
:不可見的空格,但占據空間。\p{Zl}
或\p{Line_Separator}
:分隔綫字符U+2028。\p{Zp}
或\p{Paragraph_Separator}
:分段字符U+2029。
- 符号
\p{S}
\p{Sm}
或\p{Math_Symbol}
:数学符号。\p{Sc}
或\p{Currency_Symbol}
:通货符号。\p{Sk}
或\p{Modifier_Symbol}
:组合为其他字符的符号。\p{So}
或\p{Other_Symbol}
:其他符号。
- 数值字符
\p{N}
- 标点符号
\p{P}
- 其它符号
\p{C}
(包括不可见控制字符与未用码位)
- 字符
- Unicode Block:按照编码区间划分字符,每个中的字符编码属于一个编码区间。例如语言
\p{ InCJK_Compatibility_Ideographs }
,.NET语言\p{IsCJK_Compatibility_Ideographs}
。 - Unicode Script:按照字符所属的书写系统来划分字符。和(版本不低于1.9)支持。例如
\p{Han}
表示汉字(中文字符)。
这三种性质对应的字符组补集是将开头的\p
改为\P
,其它不变。
POSIX字符组
POSIX字符组 | 说明 | ASCII环境 | Unicode环境 |
---|---|---|---|
[:alnum:] | 字母字符和数字字符 | [a-zA-Z0-9] | [\p{L&}\p{Nd}] |
[:alpha:] | 字母 | [a-zA-Z] | \p{L&} |
[:ascii:] | 字符 | [\x00-\x7F] | \p{InBasicLatin} |
[:blank:] | 空格字符和制表符 | [ \t] | [\p{Zs}\t] |
[:cntrl:] | 控制字符 | [\x00-\x1F\x7F] | \p{Cc} |
[:digit:] | 数字字符 | [0-9] | \p{Nd} |
[:graph:] | 空白字符之外的字符 | [\x21-\x7E] | [^\p{Z}\p{C}] |
[:lower:] | 小写字母字符 | [a-z] | \p{Ll} |
[:print:] | 类似[:graph:] ,但包括空白字符 | [\x20-\x7E] | [^\P{C}] |
[:punct:] | 标点符号 | [][!"#$%&'()*+,./:;<=>?@\^_`{|}~-] | [\p{P}\p{S}] |
[:space:] | 空白字符 | [ \t\r\n\v\f] | [\p{Z}\t\r\n\v\f] |
[:upper:] | 大写字母字符 | [A-Z] | \p{Lu} |
[:word:] | 字母字符 | [A-Za-z0-9_] | [\p{L}\p{N}\p{Pc}] |
[:xdigit:] | 十六进制字符 | [A-Fa-f0-9] | [A-Fa-f0-9] |
優先權
優先權 | 符號 |
---|---|
最高 | \ |
高 | () 、(?:) 、(?=) 、[] |
中 | * 、+ 、? 、{n} 、{n,} 、{n,m} |
低 | ^ 、$ 、中介字符 |
次最低 | 串接,即相邻字符连接在一起 |
最低 | | |
範例
- 以下使用PHP語言
- 驗證字串是否只含數字與英文,字串長度並在4~16個字元之間:
<?php $str = 'a1234'; if (preg_match("/^[a-zA-Z0-9]{4,16}$/", $str)) { echo "CONFIRM"; } else { echo "FAILED"; } ?>
- 簡易的中華民國國民身分證字號驗證:
<?php $str = 'a1234'; if (preg_match("/^[A-Za-z][1289]\d{8}$/", $str)) { echo "CONFIRM"; } else { echo "FAILED"; } ?>
- 驗證字串是否只含數字與英文,字串長度並在4~16個字元之間:
- 以下使用Perl語言
- 驗證字串是否只含數字與英文,字串長度並在4~16個字元之間:
print $str = "a1234" =~ m:^[a-zA-Z0-9]{4,16}$: ? "CONFIRM" : "FAILED";
- 驗證字串是否只含數字與英文,字串長度並在4~16個字元之間:
- 簡易的中華民國身份證字號驗證:
print $str = "a1234" =~ m"^\w[1289]\d{8}$" ? "CONFIRM" : "INVALID";
- 簡易的中華民國身份證字號驗證:
- 以下使用python語言
- 使用正则表示式匹配ip地址:
import re s=' 192.137.1.336 192.168.1.137.123 192.168.1.138 ' print(re.findall(r'(?<![\.\d])(?:25[0-5]\.|2[0-4]\d\.|[01]?\d\d?\.){3}(?:25[0-5]|2[0-4]\d|[01]?\d\d?)(?![\.\d])',s))
- 使用正则表示式匹配ip地址:
相關條目
- 正则表达式引擎对比
- 扩展巴科斯范式
- Thompson构造法
注释
- 命名字符类。对于C++11的regex_traits::lookup_classname,缺省返回字符类的名字:"alnum", "apha", "blank", "cntrl", "digit", "graph", "lower", "print", "punct", "space", "upper", "xdigit", "d", "s", "w"
- 命名字符类与最多只能向后引用到9
- Visual C++的库最多只能向后引用到31
- ECMAScript不限向后引用的上限
参考文献
外部链接
維基教科書中的相關電子:正则表达式 |
维基数据上的相关属性: |
- 各种语言或工具软件的不同风格的正则表达式文法规定 (页面存档备份,存于)(英文)
- 正则表达式30分钟入门教程 (页面存档备份,存于)(简体中文)
- 正則表達式應用範例 (页面存档备份,存于)(繁體中文)
- 正規化表示法-ProgWiki (页面存档备份,存于)(繁體中文)
- Regexper (页面存档备份,存于)
- RegExr: Learn, Build, & Test RegEx (页面存档备份,存于) ——公式上的悬浮气泡解释该规则匹配的字符串;匹配结果有对应的解释;右侧边栏有正则表达式的详细规范及图中的小抄
- regex101.com (页面存档备份,存于) ——查看匹配信息,并且会用不同的颜色将 Group 标记出来。
- Debuggex: Online visual regex tester. JavaScript, Python, and PCRE. (页面存档备份,存于) ——另一个正则表达式的网页在线调试/验证器,用状态机图解输入的正则表达式的语义,并可检测输入的测试字符串是否匹配该正则表达式