主页 > 知识库 > 服务器 > Linux/BSD >

linux shell必知必会sed、awk(2)

来源:中国IT实验室 作者:佚名 发表于:2013-07-12 12:06  点击:
3.2. 操作 操作由一人或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内。主要有四部份: 变量或数组赋值 输出命令 内置函数 控制流命令 4. awk的环境变量 Table 1. awk的环境变量 变量 描述

3.2. 操作
   操作由一人或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内。主要有四部份:
   变量或数组赋值
   输出命令
   内置函数
   控制流命令
   4. awk的环境变量
   Table 1. awk的环境变量
   变量 描述
   $n 当前记录的第n个字段,字段间由FS分隔。
   $0 完整的输入记录。
   ARGC 命令行参数的数目。
   ARGIND 命令行中当前文件的位置(从0开始算)。
   ARGV 包含命令行参数的数组。
   CONVFMT 数字转换格式(默认值为%.6g)
   ENVIRON 环境变量关联数组。
   ERRNO 最后一个系统错误的描述。
   FIELDWIDTHS 字段宽度列表(用空格键分隔)。
   FILENAME 当前文件名。
   FNR 同NR,但相对于当前文件。
   FS 字段分隔符(默认是任何空格)。
   IGNORECASE 如果为真,则进行忽略大小写的匹配。
   NF 当前记录中的字段数。
   NR 当前记录数。
   OFMT 数字的输出格式(默认值是%.6g)。
   OFS 输出字段分隔符(默认值是一个空格)。
   ORS 输出记录分隔符(默认值是一个换行符)。
   RLENGTH 由match函数所匹配的字符串的长度。
   RS 记录分隔符(默认是一个换行符)。
   RSTART 由match函数所匹配的字符串的第一个位置。
   SUBSEP 数组下标分隔符(默认值是\034)。
   5. awk运算符
   Table 2. 运算符
   运算符 描述
   = += -= *= /= %= ^= **= 赋值
   ?: C条件表达式
   || 逻辑或
   && 逻辑与
   ~ ~! 匹配正则表达式和不匹配正则表达式
   < <= > >= != == 关系运算符
   空格 连接
   + - 加,减
   * / & 乘,除与求余
   + - ! 一元加,减和逻辑非
   ^ *** 求幂
   ++ -- 增加或减少,作为前缀或后缀
   $ 字段引用
   in 数组成员
   6. 记录和域
   6.1. 记录
   awk把每一个以换行符结束的行称为一个记录。
   记录分隔符:默认的输入和输出的分隔符都是回车,保存在内建变量ORS和RS中。
   $0变量:它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。
   变量NR:一个计数器,每处理完一条记录,NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录,并在记录前显示记录号。
   6.2. 域
   记录中每个单词称做“域”,默认情况下以空格或tab分隔。awk可跟踪域的个数,并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。
   6.3. 域分隔符
   内建变量FS保存输入域分隔符的值,默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}' test将打印以冒号为分隔符的第一,第五列的内容。
   可以同时使用多个域分隔符,这时应该把分隔符写成放到方括号中,如$awk -F'[:\t]' '{print $1,$3}' test,表示以空格、冒号和tab作为分隔符。
   输出域的分隔符默认是一个空格,保存在OFS中。如$ awk -F: '{print $1,$5}' test,$1和$5间的逗号就是OFS的值。
   7. gawk专用正则表达式元字符
   一般通用的元字符集就不讲了,可参考我的Sed和Grep学习笔记。以下几个是gawk专用的,不适合unix版本的awk。
   \Y
   匹配一个单词开头或者末尾的空字符串。
   \B
   匹配单词内的空字符串。
   \<
   匹配一个单词的开头的空字符串,锚定开始。
   \>
   匹配一个单词的末尾的空字符串,锚定末尾。
   \w
   匹配一个字母数字组成的单词。
   \W
   匹配一个非字母数字组成的单词。
   \‘
   匹配字符串开头的一个空字符串。
   \'
   匹配字符串末尾的一个空字符串。
   8. POSIX字符集
   可参考我的Grep学习笔记
   9. 匹配操作符(~)
   用来在记录或者域内匹配正则表达式。如$ awk '$1 ~/^root/' test将显示test文件第一列中以root开头的行。
   10. 比较表达式
   conditional expression1 ? expression2: expression3,例如:$ awk '{max = {$1 > $3} ? $1: $3: print max}' test。如果第一个域大于第三个域,$1就赋值给max,否则$3就赋值给max。
   $ awk '$1 + $2 < 100' test。如果第一和第二个域相加大于100,则打印这些行。
   $ awk '$1 > 5 && $2 < 10' test,如果第一个域大于5,并且第二个域小于10,则打印这些行。
   11. 范围模板
   范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现,则匹配到开头或末尾。如$ awk '/root/,/mysql/' test将显示root第一次出现到mysql第一次出现之间的所有行。
   12. 一个验证passwd文件有效性的例子
   $ cat /etc/passwd | awk -F: '\
   NF != 7{\
   printf("line %d,does not have 7 fields:%s\n",NR,$0)}\
   $1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\
   $2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'
   
   cat把结果输出给awk,awk把域之间的分隔符设为冒号。
   
   如果域的数量(NF)不等于7,就执行下面的程序。
   
   printf打印字符串"line ?? does not have 7 fields",并显示该条记录。
   
   如果第一个域没有包含任何字母和数字,printf打印“no alpha and numeric user id" ,并显示记录数和记录。
   
   如果第二个域是一个星号,就打印字符串“no passwd”,紧跟着显示记录数和记录本身。
   13. 几个实例
   $ awk '/^(no|so)/' test-----打印所有以模式no或so开头的行。
   $ awk '/^[ns]/{print $1}' test-----如果记录以n或s开头,就打印这个记录。
   $ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一个域以两个数字结束就打印这个记录。
   $ awk '$1 == 100 || $2 < 50' test-----如果第一个或等于100或者第二个域小于50,则打印该行。
   $ awk '$1 != 10' test-----如果第一个域不等于10就打印该行。
   $ awk '/test/{print $1 + 10}' test-----如果记录包含正则表达式test,则第一个域加10并打印出来。
   $ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一个域大于5则打印问号后面的表达式值,否则打印冒号后面的表达式值。
   $ awk '/^root/,/^mysql/' test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记 录,则继续打印直到下一个以正则表达式mysql开头的记录为止,或到文件末尾。
   14. awk编程
   14.1. 变量
   在awk中,变量不需要定义就可以直接使用,变量类型可以是数字或字符串。
   赋值格式:Variable = expression,如$ awk '$1 ~/test/{count = $2 + $3; print count}' test,上式的作用是,awk先扫描第一个域,一旦test匹配,就把第二个域的值加上第三个域的值,并把结果赋值给变量count,最后打印出来。
   awk可以在命令行中给变量赋值,然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004 test,上式的month和year都是自定义变量,分别被赋值为4和2004。在awk脚本中,这些变量使用起来就象是在脚本中建立的一样。注意,如 果参数前面出现test,那么在BEGIN语句中的变量就不能被使用。
   域变量也可被赋值和修改,如$ awk '{$2 = 100 + $1; print }' test,上式表示,如果第二个域不存在,awk将计算表达式100加$1的值,并将其赋值给$2,如果第二个域存在,则用表达式的值覆盖$2原来的值。 再例如:$ awk '$1 == "root"{$1 ="test";print}' test,如果第一个域的值是“root”,则把它赋值为“test”,注意,字符串一定要用双引号。
   内建变量的使用。变量列表在前面已列出,现在举个例子说明一下。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print NR,$1,$2,$NF}'test,把IGNORECASE设为1代表忽略大小写,打印第一个域是mary的记录数、第一个域、第二个域和最后一个 域。
   14.2. BEGIN模块
   BEGIN模块后紧跟着动作块,这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。 它通常用来改变内建变量的值,如OFS,RS和FS等,以及打印标题。如:$ awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示,在处理输入文件以前,域分隔符(FS)被设为冒号,输出文件分隔符(OFS)被设置为制表符,输出记录分隔符(ORS)被设置为两个 换行符。$ awk 'BEGIN{print "TITLE TEST"}只打印标题。

有帮助
(0)
0%
没帮助
(0)
0%