正则表达式

形成搜索模式的字符序列

正则表达式(英語:Regular expression,常简写为regexregexpRE),又称規律表達式正規表示式正規表示法規則運算式常規表示法,是计算机科学概念,用簡單字串来描述、匹配文中全部符合指定格式的字串,現在很多文本编辑器都支援用正則表达式搜尋、取代符合指定格式的字串。

「正则表达式」的各地常用名稱
中国大陸正则表达式
臺灣正規表示式[1]、正規表示法、
正規表達式[2]、規則運算式[3][4]
港澳正則表達式

许多程序设计语言都支援用正則表达式操作字串,如Perl就内建功能强大的正則表达式引擎。正則表达式这概念最初由Unix的工具软件(例如sedgrep)普及开。

譯名問題 编辑

描述字串規律表達式原應順理成章稱為規律表達式(pattern expression/rule expression),但卻叫成有欠準確的regular expression,導致現在有多種中譯名,如將regular譯成規律規則正规正则常規,將expression譯成表達式表示式表示法運算式等。

历史 编辑

最初的正则表达式出现于理论计算机科学自动控制理论和形式化语言理论中。在这些领域中有对计算(自动控制)的模型和对形式化语言描述与分类的研究。

1940年,沃伦·麦卡洛克沃尔特·皮茨神经系统中的神经元描述成小而简单的自动控制元。

1950年代,数学家斯蒂芬·科尔·克莱尼利用称之为「正则集合」的数学符号来描述此模型。肯·汤普逊将此符号系统引入编辑器QED英语QED (text editor),随后是Unix上的编辑器ed,并最终引入grep。自此以后,正則表达式被广泛地应用于各种Unix类Unix系统的工具中。正则表达式的POSIX规范,分为基本型正则表达式(Basic Regular ExpressionBRE)和扩展型正则表达式(Extended Regular ExpressionERE)两大流派。在兼容POSIXUNIX系统上,grepegrep之类的工具都遵循POSIX规范,一些数据库系统中的正则表达式也符合POSIX规范。grepvised都属于BRE,是历史最早的正则表达式,因此元字符必须转譯之后才具有特殊含义。egrepawk则属于ERE,元字符不用转譯。

Perl的正则表达式源自于Henry Spencer英语Henry Spencer于1986年1月19日发布的regex,它已经演化成了PCREPerl兼容正则表达式,Perl Compatible Regular Expressions英语PCRE),一个由Philip Hazel英语Philip Hazel开发的,为很多现代工具所使用的库。

各編程语言之间關於正則表达式的整合,目前[何时?]开發進展得很差。Perl6的子项目Apocalypse的设计中已考虑到了这点。

理论 编辑

正则表达式可以用形式化语言理论的方式来表达。正则表达式由常量和算子组成,它们分别表示字符串的集合和在这些集合上的运算。给定有限字母表Σ定义了下列常量:

  • 空集 表示集合 
  • 空串 表示仅包含一个“不含任何字符、长度为0的字符串”的集合。
  • 文字字符英语String literal 表示仅包含一个元素 的集合 

定义了下列运算:

  • 串接  表示集合 ,这里的 表示将  两个字符串按顺序连接。例如: 
  • 选择  表示  并集。例如: 
  • 克莱尼(Kleene)星号  表示包含 且在字符串串接运算下闭合 的最小超集。这是可以通过 中零或有限个字符串的串接得到所有字符串的集合。例如: 

上述常量和算子形成了克莱尼代数

很多课本使用对选择使用符号   替代竖线。

为了避免括号,假定Kleene星号有最高优先级,接着是串接,接着是并集。如果没有歧义则可以省略括号。例如:(ab)c可以写为abc,而a|(b(c*))可以写为a|bc*

例子:

  • a|b*表示 
  • (a|b)*表示包括空串和任意数目个ab字符组成的所有字符串的集合: 
  • ab*(c|ε)表示开始于一个a接着零或多个b和最后一个可选的c组成的字符串的集合: 

为了使表达式更简洁,正则表达式也定义了?+aa*等于a+,表示a出现至少一次;而(a|ε)等于a?,表示a出现1次或不出现。有的定义中增加了补算子  表示在 上但不在 中的所有字符串的集合。补算子在理论上并非必要,因为它可以使用其他算子来表达,但它可以使一些表达式变得更加简洁。

这种意义上的正则表达式可以表达正则语言,是可被有限状态自动机精确接受的语言类。但是在简洁性上有重要区别。某类正则语言只能用大小指数增长的自动机来描述,而要求的正则表达式的长度只线性的增长。

正则表达式对应于乔姆斯基层级类型-3文法。但通常编程语言或其相关库(例如PCRE)中实现的正则表达式的表达能力是乔姆斯基层级类型-3文法的超集[來源請求]。在另一方面,在正则表达式和不导致这种大小上的爆炸的非确定有限状态自动机NFA)之间有简单的映射;为此NFA经常被用作正则表达式的替表示式。

这种形式化中存在着冗余,典型的体现是存在不同的正则表达式可以表达同样的语言。有可能对两个给定正则表达式写一个算法来判定它们所描述的语言是否本质上相等,即简约每个表达式到极小确定有限自动机,确定它们是否同构(等价)。这种冗余可以消减到什么程度?我们可以找到仍有完全表达力的正则表达式的有趣的子集吗?这提出了一个令人惊奇的困难问题。Kleene星号和并集明显是需要的,但是我们或许可以限制它们的使用。由于正则表达式如此简单,没有办法在语法上把它重写成某种规范形式。过去公理化的缺乏导致了星号高度问题英语Star height problem。最近Dexter Kozen克莱尼代数公理化了正则表达式。[來源請求]

很多现实世界的“正则表达式”引擎实现了不能用正则表达式代数表达的特征。[來源請求]

基本语法 编辑

一個正则表达式通常被稱為一個模式pattern),為用来描述或者匹配一系列符合某个句法规则的字符串。例如:Handel、Händel和Haendel這三个字符串,都可以由H(a|ä|ae)ndel这个模式来描述。大部分正则表达式的形式都有如下的结构:

选择 编辑

  • 竖线|代表选择(即或集),具有最低优先级。例如gray|grey可以匹配greygray

数量限定 编辑

某个字符后的数量限定符用来限定前面这个字符允许出现的个数。最常见的数量限定符包括+?*(不加数量限定则代表出现一次且仅出现一次):

  • 加号+代表前面的字符必须至少出现一次。(1次或多次)。例如,goo+gle可以匹配google、gooogle、goooogle等;
  • 问号?代表前面的字符最多只可以出现一次。(0次或1次)。例如,colou?r可以匹配color或者colour;
  • 星号*代表前面的字符可以不出现,也可以出现一次或者多次。(0次、1次或多次)。例如,0*42可以匹配42、042、0042、00042等。

匹配 编辑

  • 圆括号()可以用来定义操作符的范围和优先度。例如,gr(a|e)y等价于gray|grey(grand)?father匹配father和grandfather。

上述这些构造子都可以自由组合,因此H(ae?|ä)ndelH(a|ae|ä)ndel是相同的,表示{"Handel", "Haendel", "Händel"}。

精确的语法可能因不同的工具或程序而异。

PCRE表达式全集 编辑

正则表达式有多種不同的风格。下表是在PCRE英语Perl_Compatible_Regular_Expressions中元字符及其在正则表达式上下文中的行为的一个完整列表,适用于Perl或者Python编程语言(grep或者egrep的正则表达式文法是PCRE的子集):

字符 描述
\ 将下一个字符标记为一个特殊字符(File Format Escape,清单见本表)、或一个原义字符(Identity Escape,有「^$()*+?.[\{|」共计12个)、或一个向后引用(backreferences)、或一个八进制转义符。例如,「n」匹配字符「n」。「\n」匹配一个换行符。序列「\\」匹配「\」而「\(」则匹配「(」。
^ 匹配输入字符串的开始位置。如果设置了RegExp对象的Multiline属性,^也匹配「\n」或「\r」之后的位置。
$ 匹配输入字符串的结束位置。如果设置了RegExp对象的Multiline属性,$也匹配「\n」或「\r」之前的位置。
* 匹配前面的子表达式零次或多次。例如,zo*能匹配「z」、「zo」以及「zoo」。*等价于{0,}。
+ 匹配前面的子表达式一次或多次。例如,「zo+」能匹配「zo」以及「zoo」,但不能匹配「z」。+等价于{1,}。
? 匹配前面的子表达式零次或一次。例如,「do(es)?」可以匹配「does」中的「do」和「does」。?等价于{0,1}。
{n} n是一个非负整数。匹配确定的n次。例如,「o{2}」不能匹配「Bob」中的「o」,但是能匹配「food」中的两个o。
{n,} n是一个非负整数。至少匹配n次。例如,「o{2,}」不能匹配「Bob」中的「o」,但能匹配「foooood」中的所有o。「o{1,}」等价于「o+」。「o{0,}」则等价于「o*」。
{n,m} mn均为非负整数,其中n<=m。最少匹配n次且最多匹配m次。例如,「o{1,3}」将匹配「fooooood」中的前三个o。「o{0,1}」等价于「o?」。请注意在逗号和两个数之间不能有空格。
? 非贪心量化(Non-greedy quantifiers):当该字符紧跟在任何一个其他重复修饰符(*,+,?,{n},{n,},{n,m})后面时,匹配模式是贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如,对于字符串「oooo」,「o+?」将匹配单个「o」,而「o+」将匹配所有「o」。
. 匹配除「\r」「\n」之外的任何单个字符。要匹配包括「\r」「\n」在内的任何字符,请使用像「(.|\r|\n)」的模式。
(pattern) 匹配pattern并获取这一匹配的子字符串。该子字符串用于向后引用。所获取的匹配可以从产生的Matches集合得到,在VBScript中使用SubMatches集合,在JScript中则使用$0…$9属性。要匹配圆括號字符,请使用「\(」或「\)」。可带数量后缀。
(?:pattern) 匹配pattern但不获取匹配的子字符串(shy groups),也就是说这是一个非获取匹配,不存储匹配的子字符串用于向后引用。这在使用或字符「(|)」来组合一个模式的各个部分是很有用。例如「industr(?:y|ies)」就是一个比「industry|industries」更简略的表达式。
(?=pattern) 正向肯定预查(look ahead positive assert),在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如,「Windows(?=95|98|NT|2000)」能匹配「Windows2000」中的「Windows」,但不能匹配「Windows3.1」中的「Windows」。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。
(?!pattern) 正向否定预查(negative assert),在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配,也就是说,该匹配不需要获取供以后使用。例如「Windows(?!95|98|NT|2000)」能匹配「Windows3.1」中的「Windows」,但不能匹配「Windows2000」中的「Windows」。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始
(?<=pattern) 反向(look behind)肯定预查,与正向肯定预查类似,只是方向相反。例如,「(?<=95|98|NT|2000)Windows」能匹配「2000Windows」中的「Windows」,但不能匹配「3.1Windows」中的「Windows」。
(?<!pattern) 反向否定预查,与正向否定预查类似,只是方向相反。例如「(?<!95|98|NT|2000)Windows」能匹配「3.1Windows」中的「Windows」,但不能匹配「2000Windows」中的「Windows」。
x|y 没有包围在()里,其范围是整个正则表达式。例如,「z|food」能匹配「z」或「food」。「(?:z|f)ood」则匹配「zood」或「food」。
[xyz] 字符集合(character class)。匹配所包含的任意一个字符。例如,「[abc]」可以匹配「plain」中的「a」。特殊字符仅有反斜线\保持特殊含义,用于转义字符。其它特殊字符如星号、加号、各种括号等均作为普通字符。脱字符^如果出现在首位则表示负值字符集合;如果出现在字符串中间就仅作为普通字符。连字符 - 如果出现在字符串中间表示字符范围描述;如果如果出现在首位(或末尾)则仅作为普通字符。右方括号应转义出现,也可以作为首位字符出现。
[^xyz] 排除型字符集合(negated character classes)。匹配未列出的任意字符。例如,「[^abc]」可以匹配「plain」中的「plin」。
[a-z] 字符范围。匹配在Unicode编码表指定范围内的任意字符。例如,「[a-z]」可以匹配「a」到「z」范围内的任意小写字母字符。
[^a-z] 排除型的字符范围。匹配任何不在Unicode编码表指定范围内的任意字符。例如,「[^a-z]」可以匹配任何不在「a」到「z」范围内的任意字符。
[:name:] 增加命名字符类(named character class[註 1]中的字符到表达式。只能用于方括号表达式
[=elt=] 增加当前locale下排序(collate)等价于字符“elt”的元素。例如,[=a=]可能会增加ä、á、à、ă、ắ、ằ、ẵ、ẳ、â、ấ、ầ、ẫ、ẩ、ǎ、å、ǻ、ä、ǟ、ã、ȧ、ǡ、ą、ā、ả、ȁ、ȃ、ạ、ặ、ậ、ḁ、ⱥ、ᶏ、ɐ、ɑ 。只能用于方括号表达式。
[.elt.] 增加排序元素collation elementelt到表达式中。这是因为某些排序元素由多个字符组成。例如,29个字母表的西班牙语, "CH"作为单个字母排在字母C之后,因此会产生如此排序“cinco, credo, chispa”。只能用于方括号表达式。
\b 匹配一个单词边界,也就是指单词和空格间的位置。例如,「er\b」可以匹配「never」中的「er」,但不能匹配「verb」中的「er」。
\B 匹配非单词边界。「er\B」能匹配「verb」中的「er」,但不能匹配「never」中的「er」。
\cx 匹配由x指明的控制字符。x的值必须为A-Za-z之一。否则,将c视为一个原义的「c」字符。控制字符的值等于x的值最低5比特(即对3210进制的余数)。例如,\cM匹配一个Control-M或回车符。\ca等效于\u0001, \cb等效于\u0002, 等等…
\d 匹配一个数字字符。等价于[0-9]。注意Unicode正则表达式会匹配全角数字字符。
\D 匹配一个非数字字符。等价于[^0-9]。
\f 匹配一个换页符。等价于\x0c和\cL。
\n 匹配一个换行符。等价于\x0a和\cJ。
\r 匹配一个回车符。等价于\x0d和\cM。
\s 匹配任何空白字符,包括空格、制表符、换页符等等。等价于[ \f\n\r\t\v]。注意Unicode正则表达式会匹配全角空格符。
\S 匹配任何非空白字符。等价于[^ \f\n\r\t\v]。
\t 匹配一个制表符。等价于\x09和\cI。
\v 匹配一个垂直制表符。等价于\x0b和\cK。
\w 匹配包括下划线的任何单词字符。等价于「[A-Za-z0-9_]」。注意Unicode正则表达式会匹配中文字符。
\W 匹配任何非单词字符。等价于「[^A-Za-z0-9_]」。
\xnn 十六进制转义字符序列。匹配两个十六进制数字nn表示的字符。例如,「\x41」匹配「A」。「\x041」则等价于「\x04&1」。正則表达式中可以使用ASCII编码。.
\num 向后引用(back-reference)一个子字符串(substring),该子字符串与正则表达式的第num个用括号围起来的捕捉群(capture group)子表达式(subexpression)匹配。其中num是从1开始的十进制正整数,其上限可能是9[註 2]、31[註 3]、99甚至无限[註 4]。例如:「(.)\1」匹配两个连续的相同字符。
\n 标识一个八进制转义值或一个向后引用。如果\n之前至少n个获取的子表达式,则n为向后引用。否则,如果n为八进制数字(0-7),则n为一个八进制转义值。
\nm 3位八进制数字,标识一个八进制转义值或一个向后引用。如果\nm之前至少有nm个获得子表达式,则nm为向后引用。如果\nm之前至少有n个获取,则n为一个后跟文字m的向后引用。如果前面的条件都不满足,若nm均为八进制数字(0-7),则\nm将匹配八进制转义值nm
\nml 如果n为八进制数字(0-3),且m和l均为八进制数字(0-7),则匹配八进制转义值nml。
\un Unicode转义字符序列。其中n是一个用四个十六进制数字表示的Unicode字符。例如,\u00A9匹配版权符号(©)。

Unicode处理 编辑

在.NET、JavaJavaScriptPython的正则表达式中,可以用\uXXXX表示一个Unicode字符,其中XXXX为四位16进制数字。

Unicode字符的三种性质:[5]

  • Unicode Property:字符属于标点、空格、字母等等。每个Unicode字符只能属于唯一Unicode Property。.NET、JavaPHPRuby等语言支持。具体分类为:
    • 字符\p{L}
      • \p{Ll}\p{Lowercase_Letter}:小写字符(必须有大写的形式)。
      • \p{Lu}\p{Uppercase_Letter}:大写字符(必须有小写的形式)。
      • \p{Lt}\p{Titlecase_Letter}:全词首字母大写的字符。
      • \p{L&}\p{Cased_Letter}:存在大小写形式的字符(Ll, Lu, Lt的组合)。
      • \p{Lm}\p{Modifier_Letter}音标修饰字符英语Spacing Modifier Letters
      • \p{Lo}\p{Other_Letter}:不具有大小写的字符或字形。
    • 附加符号\p{M}
      • \p{Mn}\p{Non_Spacing_Mark}:与其他字符结合,不额外占用空间的字符,例如日耳曼語元音變音
      • \p{Mc}\p{Spacing_Combining_Mark}:与其他字符结合,额外占用空间的字符,例如馬拉雅拉姆文#元音字母及附標
      • \p{Me}\p{Enclosing_Mark}:包含其他字符的字符,例如圆圈、方块。
    • 分隔符\p{Z}
      • \p{Zs}\p{Space_Separator}:不可見的空格,但占據空間。
      • \p{Zl}\p{Line_Separator}:分隔綫字符U+2028。
      • \p{Zp}\p{Paragraph_Separator}:分段字符U+2029。
    • 符号\p{S}
      • \p{Sm}\p{Math_Symbol}:数学符号。
      • \p{Sc}\p{Currency_Symbol}:通货符号。
      • \p{Sk}\p{Modifier_Symbol}:组合为其他字符的符号。
      • \p{So}\p{Other_Symbol}:其他符号。
    • 数值字符\p{N}
      • \p{Nd}\p{Decimal_Digit_Number}:所有文本中的数字0至9字符,不含形意符号
      • \p{Nl}\p{Letter_Number}:看起来像字母的符号,包含罗马数字
      • \p{No}\p{Other_Number}:上角标或下角标数字,或者其他不属于0至9的数字。不含形意符号
    • 标点符号\p{P}
      • \p{Pd}\p{Dash_Punctuation}:任何种类的连字号连接号
      • \p{Ps}\p{Open_Punctuation}:任何种类开括号
      • \p{Pe}\p{Close_Punctuation}:任何种类闭括号。
      • \p{Pi}\p{Initial_Punctuation}:任何种类开引号
      • \p{Pf}\p{Final_Punctuation}:任何种类闭引号。
      • \p{Pc}\p{Connector_Punctuation}:连接词的标点符号,如下划线。
      • \p{Po}\p{Other_Punctuation}:其他标点符号。
    • 其它符号\p{C}(包括不可见控制字符与未用码位
      • \p{Cc}\p{Control}ASCIILatin-1控制字符0x00-0x1F0x7F-0x9F
      • \p{Cf}\p{Format}:不可见的格式化指示字符。
      • \p{Co}\p{Private_Use}:私用码位
      • \p{Cs}\p{Surrogate}UTF-16编码的代理对的一半。
      • \p{Cn}\p{Unassigned}:未被使用的码位
  • Unicode Block:按照编码区间划分Unicode字符,每个Unicode Block中的字符编码属于一个编码区间。例如Java语言\p{ InCJK_Compatibility_Ideographs },.NET语言\p{IsCJK_Compatibility_Ideographs}
  • Unicode Script:按照字符所属的书写系统来划分Unicode字符。PHPRuby(版本不低于1.9)支持Unicode Script。例如\p{Han}表示汉字(中文字符)。

这三种Unicode性质对应的字符组补集是将开头的\p改为\P,其它不变。

POSIX字符组 编辑

POSIX字符组 说明 ASCII环境 Unicode环境
[:alnum:] 字母字符和数字字符 [a-zA-Z0-9] [\p{L&}\p{Nd}]
[:alpha:] 字母 [a-zA-Z] \p{L&}
[:ascii:] ASCII字符 [\x00-\x7F] \p{InBasicLatin}
[:blank:] 空格字符和制表符 [ \t] [\p{Zs}\t]
[:cntrl:] 控制字符 [\x00-\x1F\x7F] \p{Cc}
[:digit:] 数字字符 [0-9] \p{Nd}
[:graph:] 空白字符之外的字符 [\x21-\x7E] [^\p{Z}\p{C}]
[:lower:] 小写字母字符 [a-z] \p{Ll}
[:print:] 类似[:graph:],但包括空白字符 [\x20-\x7E] [^\P{C}]
[:punct:] 标点符号 [][!"#$%&'()*+,./:;<=>?@\^_`{|}~-] [\p{P}\p{S}]
[:space:] 空白字符 [ \t\r\n\v\f] [\p{Z}\t\r\n\v\f]
[:upper:] 大写字母字符 [A-Z] \p{Lu}
[:word:] 字母字符 [A-Za-z0-9_] [\p{L}\p{N}\p{Pc}]
[:xdigit:] 十六进制字符 [A-Fa-f0-9] [A-Fa-f0-9]

優先權 编辑

 優先權 符號
最高 \
()(?:)(?=)[]
*+?{n}{n,}{n,m}
^$、中介字符
次最低 串接,即相邻字符连接在一起
最低 |

範例 编辑

  • 以下使用PHP語言
  • 驗證字串是否只含數字與英文,字串長度並在4~16個字元之間:
    <?php
    $str = 'a1234';
    if (preg_match("/^[a-zA-Z0-9]{4,16}$/", $str)) {
        echo "CONFIRM";
    } else {
        echo "FAILED";
    }
    ?>
    
  • 簡易的中華民國國民身分證字號驗證:
    <?php
    $str = 'a1234';
    if (preg_match("/^[A-Za-z][1289]\d{8}$/", $str)) {
        echo "CONFIRM";
    } else {
        echo "FAILED";
    }
    ?>
    
  • 以下使用Perl語言
  • 驗證字串是否只含數字與英文,字串長度並在4~16個字元之間:
    print $str = "a1234" =~ m:^[a-zA-Z0-9]{4,16}$: ? "CONFIRM" : "FAILED";
    
  • 簡易的中華民國身份證字號驗證:
    print $str = "a1234" =~ m"^\w[1289]\d{8}$" ? "CONFIRM" : "INVALID";
    
  • 使用正则表示式匹配ip地址:
    import re
    s=' 192.137.1.336  192.168.1.137.123  192.168.1.138 '
    print(re.findall(r'(?<![\.\d])(?:25[0-5]\.|2[0-4]\d\.|[01]?\d\d?\.){3}(?:25[0-5]|2[0-4]\d|[01]?\d\d?)(?![\.\d])',s))
    

相關條目 编辑

注释 编辑

  1. ^ 命名字符类。对于C++11的regex_traits::lookup_classname,缺省返回字符类的名字:"alnum", "apha", "blank", "cntrl", "digit", "graph", "lower", "print", "punct", "space", "upper", "xdigit", "d", "s", "w"
  2. ^ 命名字符类BREgrep最多只能向后引用到9
  3. ^ Visual C++的regex库最多只能向后引用到31
  4. ^ ECMAScript不限向后引用的上限

参考文献 编辑

  1. ^ 雙語詞彙、學術名詞暨辭書資訊網. 國家教育研究院. [2018-12-24]. (原始内容存档于2018-12-24). 
  2. ^ 正規表達式 - JavaScript. 社群編輯. [2023-06-10]. 原始内容存档于2023-06-28.  已忽略文本“MDN” (帮助)
  3. ^ 軟體操作小撇步 –Dreamweaver CS4規則運算式介紹. 師友會電子報第 181 期. 財團法人中華民國電腦技能基金會. 2009-11-25. (原始内容存档于2023-06-10). 
  4. ^ EmEditor 如何: 規則運算式語法. Emurasoft, Inc. (原始内容存档于2023-03-29). 
  5. ^ Unicode Regular Expressions. [2017-09-19]. (原始内容存档于2021-04-01). 

外部链接 编辑