AWK三剑客

阅读数：117次
字数统计: 3.6k字   |   阅读时长: 16分
× 文章目录
  1. 1 awk简介
  2. 2 使用方法
  3. 3 awk 的原理
  4. 4 实战了解awk工作原理
    1. 4.1 实例一：只查看test.txt文件（100行）内第20到第30行的内容
    2. 4.2 实例二：已知test.txt文件内容为：
  5. 5 BEGIN 和 END 模块
    1. 5.1 实例一：统计/etc/passwd的账户人数
    2. 5.2实例二：统计某个文件夹下的文件占用的字节数
  6. 6 awk运算符
    1. 6.1 awk 赋值运算符
    2. 6.2 awk逻辑运算符：
    3. 6.3 awk正则运算符：
    4. 6.4 关系运算符：
    5. 6.5 awk 算术运算符：
    6. 6.6 三目运算符 ?:
  7. 7 常用 awk 内置变量
    1. 7.1 字段分隔符 FS
  8. 8 awk正则
    1. 8.1 正则应用
  9. 9 awk 的 if、循环和数组
    1. 9.1 条件语句
    2. 9.2 循环结构
    3. 9.3 for 循环
    4. 9.4 break 和 continue
    5. 9.5 数组
    6. 9.6 数组的典型应用
  10. 10 常用字符串函数
    1. 10.1 字符串函数的应用

转载出处

1 awk简介

awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言： AWK 程序设计语言 ， 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序，这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表，还有无数其他的功能。

awk 是一种很棒的语言，它适合文本处理和报表生成，其语法较为常见，借鉴了某些语言的一些精华，如 C 语言等。在 linux 系统日常处理工作中，发挥很重要的作用，掌握了 awk将会使你的工作变的高大上。

2 使用方法

1
awk '{pattern + action}' {filenames}

尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。

awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。

通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。

3 awk 的原理

通过一个简短的命令，我们来了解其工作原理。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
[root@haoransun etc]# awk '{print $0}' /etc/passwd
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
.....................................................

[root@haoransun etc]# echo hhh|awk '{print "hello,world"}'
hello,world

[root@haoransun etc]# awk '{print "hiya"}' /etc/passwd
`hiya`
`hiya`
`hiya`
`hiya`
...............................................

调用 awk时，我们指定/etc/passwd 作为输入文件。执行 awk 时，它依次对/etc/passwd 中的每一行执行 print 命令。

所有输出都发送到 stdout，所得到的结果与执行 cat /etc/passwd 完全相同。

解释{ print }代码块。在 awk 中，花括号用于将几块代码组合到一起，这一点类似于 C 语言。在代码块中只有一条 print 命令。在 awk 中，如果只出现 print 命令，那么将打印当前行的全部内容。

再次说明， awk 对输入文件中的每一行都执行这个脚本。

1
2
3
4
$ awk -F ":" '{ print $1 }' /etc/passwd
$ awk -F ":" '{ print $1 $3 }' /etc/passwd
$ awk -F ":" '{ print $1 " " $3 }' /etc/passwd
$ awk -F ":" '{ print "username: " $1 "\t\tuid:" $3 }' /etc/passwd

-F 参数：指定分隔符，可指定一个或多个

print 后面做字符串的拼接

4 实战了解awk工作原理

4.1 实例一：只查看test.txt文件（100行）内第20到第30行的内容

1
[root@haoransun demo]# awk '{if (NR>=20 && NR<=30) print $1}' test.txt

4.2 实例二：已知test.txt文件内容为：

请从该文件中过滤出’Poe’字符串与xxxx，最后输出的结果为：Poe xxxx

1
[root@haoransun demo]# awk -F '[ ,]+' '{print $3 " " $7}' test.txt

5 BEGIN 和 END 模块

通常，对于每个输入行， awk 都会执行每个脚本代码块一次。然而，在许多编程情况中，可能需要在 awk 开始处理输入文件中的文本之前执行初始化代码。对于这种情况， awk 允许定义一个 BEGIN 块。

因为 awk 在开始处理输入文件之前会执行 BEGIN 块，因此它是初始化 FS（字段分隔符）变量、打印页眉或初始化其它在程序中以后会引用的全局变量的极佳位置。

awk 还提供了另一个特殊块，叫作 END 块。 awk 在处理了输入文件中的所有行之后执行这个块。通常， END 块用于执行最终计算或打印应该出现在输出流结尾的摘要信息。

5.1 实例一：统计/etc/passwd的账户人数

1
[root@haoransun demo]# awk '{count++;print $0;} END{print "user count is ",count}' /etc/passwd

count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句，而action{}可以有多个语句，以;号隔开。这里没有初始化count，虽然默认是0，但是妥当的做法还是初始化为0:

1
[root@haoransun demo]# awk 'BEGIN{count=0;print "[start] user count is ",count} {count=count+1;print $0} END{print "[end] user count is",count}' /etc/passwd

5.2实例二：统计某个文件夹下的文件占用的字节数

1
[root@haoransun etc]# ll | awk 'BEGIN{size=0;}{size=size+$5;}END{print "[end]size is ",size}'

如果以M为单位显示:

1
[root@haoransun etc]# ll | awk 'BEGIN{size=0;}{size=size+$5;}END{print "[end]size is ",size/1024/1024,"M"}'

6 awk运算符

6.1 awk 赋值运算符

awk 赋值运算符：a+=5;等价于： a=a+5;其他同类

1
[root@haoransun etc]# awk 'BEGIN{a=5;a+=5;print a}'

6.2 awk逻辑运算符：

1
[root@haoransun etc]# awk 'BEGIN{a=1;b=2;print(a>2 && b>1,a=1||b>1)}'

6.3 awk正则运算符：

1
2
3
4
5
[root@haoransun etc]# awk 'BEGIN{a="100testaa";if(a~/100/){print "ok"}}'
ok

[root@haoransun etc]# echo | awk 'BEGIN{a="100testaa"} a~/test/{print "ok"}'
ok

6.4 关系运算符：

如： > < 可以作为字符串比较，也可以用作数值比较，关键看操作数如果是字符串就会转换为字符串比较。两个都为数字 才转为数值比较。字符串比较：按照ascii码顺序比较。

1
2
3
4
5
[root@haoransun etc]# awk 'BEGIN{a="11";if(a>=9){print "ok"}}' #无输出
[root@haoransun etc]# awk 'BEGIN{a=11;if(a>=9)print "ok"}'
ok
[root@haoransun etc]# awk 'BEGIN{a;if(a>=b)print "ok"}'
ok

6.5 awk 算术运算符：

所有用作算术运算符进行操作，操作数自动转为数值，所有非数值都变为0。

1
2
3
4
5
6
[root@haoransun etc]# awk 'BEGIN{a="b";print a++,++a}'
0 2
[root@haoransun etc]# awk 'BEGIN{a="20b4";print a++;++a}'
20
[root@haoransun etc]# awk 'BEGIN{a="20b4";print a++,++a}'
20 22

6.6 三目运算符 ?:

1
2
3
4
[root@haoransun etc]# awk 'BEGIN{a="b";print a=="b"?"ok":"err"}'
ok
[root@haoransun etc]# awk 'BEGIN{a="b";print a=="c"?"ok":"err"}'
err

7 常用 awk 内置变量


注：内置变量很多，参阅相关资料

7.1 字段分隔符 FS

FS=”\t+” 一个或多个 Tab 分隔

1
2
3
4
[root@haoransun demo]# cat test.txt 
ww CC IDD
[root@haoransun demo]# awk 'BEGIN{FS="\t+"}{print $1,$2,$3}' test.txt 
ww CC IDD

FS=[[:space:]+] 一个或多个空白空格，默认的

1
2
3
4
[root@haoransun demo]# cat test.txt 
we are studing awk now!
[root@haoransun demo]# awk -F [[:space:]+] '{print $1,$2,$3,$4,$5}' test.txt 
we are studing awk now!

FS=[“ “:]+ 以一个或多个空格或：分隔

1
2
3
4
[root@haoransun demo]# cat test.txt 
we are studing awk now!
[root@haoransun demo]# awk -F [" ":]+ '{print $1,$2,$3,$4,$5}' test.txt 
we are studing awk now!

字段数量 NF

1
2
3
4
5
[root@haoransun demo]# cat test.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin:888
[root@haoransun demo]# awk -F ":" 'NF==8{print $0}' test.txt 
bin:x:1:1:bin:/bin:/sbin/nologin:888

记录数量 NR

1
2
3
4
[root@haoransun demo]# ip addr | grep ens33 |awk -F [" ":]+ 'NR==2{print $3}'
192.168.121.100/24

## NR==2即是取第二行数据

RS 记录分隔符变量

将 FS 设置成”\n”告诉 awk 每个字段都占据一行。通过将 RS 设置成””，还会告诉 awk每个地址记录都由空白行分隔。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
[root@haoransun demo]# cat recode.txt 
Jimy the Weasel
100 Pleasant Driver
San Francisco,CA 123456

Big Tony
200 Incognito Ave.
Suburia,WA 64890

[root@haoransun demo]# cat awk.txt 
#!/bin/awk
BEGIN{
    FS="\n"
    RS=""
}
{
    print $1","$2","$3
}
[root@haoransun demo]# awk -f awk.txt recode.txt 
Jimy the Weasel,100 Pleasant Driver,San Francisco,CA 123456
Big Tony,200 Incognito Ave.,Suburia,WA 64890

ps:** 凡是被#!注释的，统统是加载器(解释器)的路径。#!/bin/awk :指定使用此程序来运行本文件。**

OFS 输出字段分隔符

1
2
3
4
5
6
7
8
9
[root@haoransun demo]# cat hello.txt 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin:888
[root@haoransun demo]# awk 'BEGIN{FS=":"}{print $1","$2","$3}' hello.txt 
root,x,0
bin,x,1
[root@haoransun demo]# awk 'BEGIN{FS=":";OFS="#"}{print $1,$2,$3}' hello.txt 
root#x#0
bin#x#1

ORS 输出记录分隔符

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
[root@haoransun demo]# cat recode.txt 
Jimy the Weasel
100 Pleasant Driver
San Francisco,CA 123456

Big Tony
200 Incognito Ave.
Suburia,WA 64890

[root@haoransun demo]# cat awk.txt 
#!/bin/awk
BEGIN{
    FS="\n"
    RS=""
    ORS="\n\n"
}
{
    print $1","$2","$3
}
[root@haoransun demo]# awk -f awk.txt recode.txt 
Jimy the Weasel,100 Pleasant Driver,San Francisco,CA 123456

Big Tony,200 Incognito Ave.,Suburia,WA 64890

8 awk正则

8.1 正则应用

规则表达式
awk ‘/REG/{action} ‘ file,/REG/为正则表达式，可以将$0 中，满足条件的记录送入到：action 进行处理

1
2
3
4
5
6
7
8
9
[root@haoransun demo]# awk '/root/{print $0}' /etc/passwd  ##匹配所有包含root的行
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin

[root@haoransun demo]# awk -F: '$5~/root/{print $0}' /etc/passwd ## 以冒号作为分隔符，匹配第5个字段是root的行
root:x:0:0:root:/root:/bin/bash

[root@haoransun demo]# ip addr | grep ens33 |awk 'BEGIN{FS="[[:space:]:]+"} NR==2{print $3}'
192.168.121.100/24

布尔表达式
awk ‘布尔表达式{action}’ file 仅当对前面的布尔表达式求值为真时， awk 才执行代码块。

1
2
3
4
5
[root@haoransun demo]# awk -F : '$1=="root" {print $0}' /etc/passwd
root:x:0:0:root:/root:/bin/bash
[root@haoransun demo]#
[root@haoransun demo]# awk -F : '($1=="root")&&($5=="root") {print $0}' /etc/passwd
root:x:0:0:root:/root:/bin/bash

9 awk 的 if、循环和数组

9.1 条件语句

awk 提供了非常好的类似于 C 语言的 if 语句。

使用 if 语句还可以将代码：

1
! /matchme/ {print $1 $3 $4}

转换成

1
2
3
4
5
{
    if($0 !~ /matchme/ ){
        print $1 $3 $4
    }
}

9.2 循环结构

我们已经看到了 awk 的 while 循环结构，它等同于相应的 C 语言 while 循环。 awk 还有”do…while”循环，它在代码块结尾处对条件求值，而不像标准 while 循环那样在开始处求值。

它类似于其它语言中的”repeat…until”循环。以下是一个示例：
do…while 示例

1
2
3
4
5
{
    count = do{
        print "xxxxx"
    }while(count !=1)
}

9.3 for 循环

awk 允许创建 for 循环，它就象 while 循环，也等同于 C 语言的 for 循环：

1
2
3
for (initial assignment; comparation; increment){
    code block
}

如下面：

1
2
3
for(x=1;x<=4;x++){
    print "iteration",x
}

将会打印：

1
2
3
4
iteration1
iteration2
iteration3
iteration4

9.4 break 和 continue

此外，如同 C 语言一样， awk 提供了 break 和 continue 语句。使用这些语句可以更好地控制 awk 的循环结构。以下是迫切需要 break 语句的代码片断：

以下只执行10次

这里， break 语句用于“逃出”最深层的循环。 “break”使循环立即终止，并继续执行循环代码块后面的语句。
continue 语句补充了 break，其作用如下：

9.5 数组

AWK 中的数组都是关联数组,数字索引也会转变为字符串索引

for…in 输出，因为数组是关联数组，默认是无序的。所以通过 for…in 得到是无序的数组。如果需要得到有序数组，需要通过下标获得。

9.6 数组的典型应用

用 awk 中查看服务器连接状态并汇总

1
2
3
[root@haoransun demo]# netstat -an|awk '/^tcp/{++s[$NF]}END{for(a in s)print a,s[a]}'
LISTEN 4
ESTABLISHED 1

统计 web 日志访问流量，要求输出访问次数，请求页面或图片，每个请求的总大小，总访问流量的大小汇总

10 常用字符串函数

10.1 字符串函数的应用

替换

1
2
3
4
[root@haoransun demo]# awk 'BEGIN{info="this is a test2010test!";gsub(/[0-9]+/,"!",info);print info}'
this is a test!test!

在info中查找满足正则表达式， /[0-9]+/ 用 “！”替换，并且赋值给 info值，默认是$0

查找

1
2
[root@haoransun demo]# awk 'BEGIN{info="this is a test2010test!";print index(info,"test")?"ok":"no found";}'
ok

匹配查找

1
2
3
4
[root@haoransun demo]# awk 'BEGIN{info="this is a test2010test!";print match(info,/[0-9]+/)?"ok":"no found";}'
ok

如果查找到数字匹配成功返回 ok

截取

1
2
3
[root@haoransun demo]# awk 'BEGIN{info="this is a test2010test!";print substr(info,4,10);}'
s is a tes
从第4个字符开始，截取10个长度字符串。

分割

1
2
3
4
5
6
7
[root@haoransun demo]# awk 'BEGIN{info="this is a test";split(info,tA," ");print length(tA);for(k in tA){print k,tA[k];}}'
4
4 test
1 this
2 is
3 a
分割 info,动态创建数组tA,awk for ...循环 是一个无序的循环，并不是从数组下表1...n开始

扫一扫，分享到微信

微信分享二维码

Related Issues not found

Please contact @JavaSsun to initialize the comment

本站总访问量72478次 | 本站访客数65116人