标签 linux 下的文章

使用 `parted` 命令分区

在一些fdisk不支持的硬盘上,可以使用这个命令我的 minimal的系统没有这个命令,需要单独安装
使用help可以查看帮助,就不解释含义了,不支持某些格式文件系统(例如ext3和ext4)的格式化,可以在这里分区,再退出用其他的命令格式化分区

[root@jin ~]# parted /dev/sdb
GNU Parted 2.1
使用 /dev/sdb
Welcome to GNU Parted! Type 'help' to view a list of commands.
# 分区,执行即生效
(parted) mkpart primary ext4 16.5MB 32.5MB
警告: WARNING: the kernel failed to re-read the partition table on /dev/sdb (设备或资源忙).  As a result, it may not reflect all
of your changes until after reboot.
# 查看分区
(parted) p                                                                
Model: Msft Virtual Disk (scsi)
Disk /dev/sdb: 1074MB
Sector size (logical/physical): 512B/4096B
Partition Table: msdos

Number  Start   End     Size    Type     File system  标志
 1      32.3kB  16.4MB  16.4MB  primary  ext4
 2      16.8MB  32.5MB  15.7MB  primary
创建设备文件

分区之后,如果没有创建设备文件,则需要手动创建

# 查看创建设备文件需要的参数
[root@jin ~]# ls -al /dev/sdb*
brw-rw---- 1 root disk 8, 16 11月 18 09:28 /dev/sdb
brw-rw---- 1 root disk 8, 17 11月 17 15:56 /dev/sdb1
brw-rw---- 1 root disk 8, 18 11月 17 16:14 /dev/sdb2
# 创建设备文件,参数分别为: 设备文件名, 设备类型(对应上面查看的文件的类型,第一个字母就代表文件类型),装置代码(要和上面的一致),(次要装置代码,和上面的要不一样),参考下面是如何设置的
[root@jin ~]# mknod /dev/sdb3 b 8 19

上面的执行完之后确实创建了一个设备文件,修改文件权限和文件所数用户和所属数组之后,不能对文件进行格式化

查看

[root@jin ~]# fdisk -l /dev/sdb

Disk /dev/sdb: 1073 MB, 1073741824 bytes
255 heads, 63 sectors/track, 130 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0x0008d235

   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1               1           2       16032+  83  Linux
Partition 1 does not end on cylinder boundary.
Partition 1 does not start on physical sector boundary.
/dev/sdb2               3           4       15360   83  Linux
Partition 2 does not end on cylinder boundary.
/dev/sdb3               4           6       15360   83  Linux
Partition 3 does not end on cylinder boundary.

获得使用start_udev命令自动创建,(我执行这个命令无效)

格式化

上面的步骤执行完毕失败的话,再运行了partprobe,如果还是无效,就重启在格式化吧,格式化就用正常的格式化命令就行

mkfs.ext4 /dev/sdb2 

添加新硬盘

原本的一块硬盘是sda,新加了一块硬盘为sdb

查看新硬盘
[root@jin dev]# fdisk -l

Disk /dev/sda: 136.4 GB, 136365211648 bytes
255 heads, 63 sectors/track, 16578 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0x000d203d

   Device Boot      Start         End      Blocks   Id  System
/dev/sda1   *           1          26      204800   83  Linux
Partition 1 does not end on cylinder boundary.
/dev/sda2              26        6400    51200000   83  Linux
/dev/sda3            6400       12774    51200000   83  Linux
/dev/sda4           12774       16579    30563328    5  Extended
/dev/sda5           12774       13029     2048000   82  Linux swap / Solaris
/dev/sda6           13030       16579    28513280   83  Linux

Disk /dev/sdb: 1073 MB, 1073741824 bytes
255 heads, 63 sectors/track, 130 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0x00000000
分区
[root@jin dev]# fdisk /dev/sdb
Device contains neither a valid DOS partition table, nor Sun, SGI or OSF disklabel
Building a new DOS disklabel with disk identifier 0xf0f50ac9.
Changes will remain in memory only, until you decide to write them.
After that, of course, the previous content won't be recoverable.

Warning: invalid flag 0x0000 of partition table 4 will be corrected by w(rite)

The device presents a logical sector size that is smaller than
the physical sector size. Aligning to a physical sector (or optimal
I/O) size boundary is recommended, or performance may be impacted.

WARNING: DOS-compatible mode is deprecated. It's strongly recommended to
         switch off the mode (command 'c') and change display units to
         sectors (command 'u').
# n 新建分区
Command (m for help): n
# 选择分区类型
Command action
   e   extended
   p   primary partition (1-4)
p
# 分区数字编号
Partition number (1-4): 1
# 开始柱面
First cylinder (1-130, default 1):  
Using default value 1
# 结束柱面,直接写"+存储容量"也行
Last cylinder, +cylinders or +size{K,M,G} (1-130, default 130): +10M
# 打印当前磁盘分区就能看到了
Command (m for help): p

Disk /dev/sdb: 1073 MB, 1073741824 bytes
255 heads, 63 sectors/track, 130 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 4096 bytes
I/O size (minimum/optimal): 4096 bytes / 4096 bytes
Disk identifier: 0x752ab7eb

   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1               1           2       16032+  83  Linux
# 下面这个不用管
Partition 1 does not end on cylinder boundary.
Partition 1 does not start on physical sector boundary.
# w写入,如果没有这一步的话,刚刚的操作无效
Command (m for help): w    
The partition table has been altered!

Calling ioctl() to re-read partition table.
Syncing disks.
格式化分区

如果系统版本较老(centOS 5或之前的版本需先运行partprobe命令)

[root@jin dev]# mkfs.ext4 /dev/sdb1 
mke2fs 1.41.12 (17-May-2010)
/dev/sdb1 alignment is offset by 512 bytes.
This may result in very poor performance, (re)-partitioning suggested.
Discarding device blocks: 完成                            
文件系统标签=
操作系统:Linux
块大小=1024 (log=0)
分块大小=1024 (log=0)
Stride=4 blocks, Stripe width=0 blocks
4016 inodes, 16032 blocks
801 blocks (5.00%) reserved for the super user
第一个数据块=1
Maximum filesystem blocks=16515072
2 block groups
8192 blocks per group, 8192 fragments per group
2008 inodes per group
Superblock backups stored on blocks: 
    8193

正在写入inode表: 完成                            
Creating journal (1024 blocks): 完成
Writing superblocks and filesystem accounting information: 完成

This filesystem will be automatically checked every 22 mounts or
180 days, whichever comes first.  Use tune2fs -c or -i to override.
挂载
[root@jin ~]# mount /dev/sdb1 testDir
配置启动加载
查看磁盘 UUID

dumpe2fs 1.41.12 (17-May-2010) Filesystem volume name: <none> Last mounted on: <not available> Filesystem UUID: 5634cbae-e0fa-4d12-9ae2-031c5cbda12d ...
编辑vim /etc/fstab文件
UUID=7cfd829d-d09b-4efd-bc9b-5ac19100c25f /                       ext4    defaults        1 1 
UUID=39eac6d2-0188-4a1f-a795-5564bc7c2187 /boot                   ext4    defaults        1 2 
UUID=e5f913f4-97d2-4a0d-92a8-e95bb59be591 /home                   ext4    defaults        1 2 
UUID=b37cd8cf-392a-4587-83ad-6ea0be1c4a11 /var                    ext4    defaults        1 2 
UUID=e3cdd9d3-3281-416d-bfed-0f3c0c3671a0 swap                    swap    defaults        0 0 
# 新添加的一行,分别是,设备UUID,所要挂载到文件,挂载选项(man mount搜索defaults可以查看),dump备份时的时间周期设置,开机检测文件系统的顺序
UUID=5634cbae-e0fa-4d12-9ae2-031c5cbda12d /root/testDir           ext4    defaults        0 1 
tmpfs                   /dev/shm                tmpfs   defaults        0 0 
devpts                  /dev/pts                devpts  gid=5,mode=620  0 0 
sysfs                   /sys                    sysfs   defaults        0 0 
proc                    /proc                   proc    defaults        0 0

shell脚本中的数值运算

整数类型的计算

echo $[1+1];
2

小数
再用上面的方式就不行了

echo $[1+1.1];
-bash: 1+1.1: syntax error: invalid arithmetic operator (error token is ".1")

可以bs命令,但是我最小化安装的系统没有这个命令,需要安装下

echo "scale=2;1+1.1" | bc;
2.1

还可以用awk 命令,但是这个命令对复杂点的运算就太麻烦了

echo "1+1.1" | awk -F "+" '{print $1+$2}'

复杂点的计算

#!/bin/bash
var1=1.1;
var2=2.2;
var1=3.3;
var4=`bc << EOF
scale=3
intervar=6.66
res=(${var1}+${var2}*${var3}-intervar/${var1})
res
EOF
`
echo $var4;

执行结果

bash test.sh 
-1.140

参考 http://blog.csdn.net/seteor/article/details/17377963

Linux shell编程——if条件判断

if语句格式
if command;then
    command;
else
    command;
fi

示例

#!/bin/bash
if grep "root" /etc/passwd;then
        echo "true";
else
        echo "false";
fi;
if 的三种条件表达式
格式 说明
if command;then
if function;then
命令执行成功,等于返回0 (比grep ,找到匹配)
执行失败,返回非0 (grep,没找到匹配)
if [ expression_r_r_r ];then 表达式结果为真,则返回0,if把0值引向then
if test expression_r_r_r ;then 表达式结果为真,则返回0,if把0值引向then
#!/bin/bash
# 输出false
if test 1 < 2 ;then
        echo "true";
else
        echo "false";
fi;
# 输出false
if [ 1 < 2 ];then
        echo "true";
else
        echo "false";
fi;
[ ] && ——快捷if
格式 说明
[ expression_r_r_r ] && command && 可以理解为then,如果左边的表达式为真则执行右边的语句
[ -f /etc/passwd ] && echo "exists";
exists
shell的if与c语言if的功能上的区别
shell if c语言if
0为真,走then 正好相反,非0走then
不支持整数变量直接if
必须:if [ i –ne 0 ]
但支持字符串变量直接if
if [ str ] 如果字符串非0
支持变量直接if
if (i )
#!/bin/bash
# 输出true
if [ 0 ];then
        echo "true";
else
        echo "false";
fi;
# 输出true
if [ 1 ];then
        echo "true";
else
        echo "false";
fi;


以command作为if 条件
以多条 command 作为条件
#!/bin/bash
echo -n "input:";
read user;
# 多条指令,这些命令之间相当于“and”(与)
if grep ${user} /etc/passwd > /tmp/null;who -u | grep $user;then
        echo "${user} has logged";
else
        echo "${user} has not logged";
fi;

执行结果

[root@jin test]# bash ../test.sh 
input:root
root     pts/1        2016-11-12 09:22   .          5577 (192.168.1.62)
root has logged
[root@jin test]# bash ../test.sh 
input:jin
jin has not logged
以函数作为if条件 (函数就相当于command,函数的优点是其return值可以自定义)
#!/bin/bash
function yesorno()
{
        return 1;
}
# 以函数作为if条件
if yesorno;then
        echo "return is 0,true";
else
        echo "return is not 0,false";
fi;

执行结果

bash ../test.sh 
return is not 0,false
if command 等价于 command+if $?
#!/bin/bash
echo -n "input:";
read user;
# 多条指令,这些命令之间相当于“and”(与)
grep ${user} /etc/passwd > /tmp/null;who -u | grep $user;
# $? 其实是上次命令的返回值
if [ $? -eq 0 ];then
        echo "${user} has logged";
else
        echo "${user} has not logged";
fi;
以条件表达式作为 if条件

传统if 从句子——以条件表达式作为 if条件

if [ 条件表达式 ]
then
 command
 command
 command
else
 command
 command
fi
条件表达式
  • 文件表达式
    |表达式|说明|
    |:-:|:-|
    |if [ -f file ]| 如果文件存在|
    |if [ -d ... ]| 如果目录存在|
    |if [ -s file ]| 如果文件存在且非空 |
    |if [ -r file ]| 如果文件存在且可读|
    |if [ -w file ]| 如果文件存在且可写|
    |if [ -x file ]| 如果文件存在且可执行 |
  • 整数变量表达式
    |表达式|说明|
    |:-:|:-|
    |if [ int1 -eq int2 ]| 如果int1等于int2 |
    |if [ int1 -ne int2 ]| 如果不等于 |
    |if [ int1 -ge int2 ]| 如果>=|
    |if [ int1 -gt int2 ]| 如果>|
    |if [ int1 -le int2 ]| 如果<=|
    |if [ int1 -lt int2 ]| 如果<|
  • 字符串变量表达式
    表达式 说明
    If [ \$a = \$b ] 如果a等于b 字符串允许使用赋值号做等号
    if [ $string1 != $string2 ] 如果string1不等于string2
    if [ -n $string ] 如果string 非空(非0),返回0(true)
    if [ -z $string ] 如果string 为空
    if [ $sting ] 如果string 非空,返回0 (和-n类似)
条件表达式引用变量要带$
a=a;
b=a;
# 输出 false,因为字母a不等于字母b
if [ a = b ];then
        echo "true";
else
        echo "false";
fi;
a=a;
b=a;
# 输出 true,因为变量a等于变量b
if [ $a = $b ];then
        echo "true";
else
        echo "false";
fi;

-eq -ne -lt -nt只能用于整数,不适用于字符串,字符串等于用赋值号=

#!/bin/bash
if [ "aa" -eq "aa" ];then
        echo "true";
else
        echo "false";
fi;

执行结果

../test.sh: line 2: [: aa: integer expression expected
false

=放在别的地方是赋值,放在if [ ] 里就是字符串等于,shell里面没有==的,那是c语言的等于
无空格的字符串,可以加" ",也可以不加

#!/bin/bash
a="aaa";
b=aaa;
# 输出结果为true
if [ $a = $b ];then
        echo "true";
else
        echo "false";
fi;

= 作为等于时,其两边都必须加空格,否则失效
等号也是操作符,必须和其他变量,关键字,用空格格开 (等号做赋值号时正好相反,两边不能有空格)

#!/bin/bash
a="aaaa";
b="aaa";
# 输出true,因为if把$a=$b连读成一个变量,这个表达式实际是字串 "aaaa=aaa",所以走 then
if [ $a=$b ];then
        echo "true";
else
        echo "false";
fi

If [ $ANS ] 与 if [ -n $ANS ]
-n会把空格,回车也识别成非空

#!/bin/bash
echo "enter something,please\n";
read str;
#if [ $str ];then
if [ -n $str ];then
        echo $str;
else
        echo "empty";
fi;

整数条件表达式,大于,小于,shell里没有> 和< ,会被当作尖括号,只有-ge,-gt,-le,lt

#!/bin/bash
echo "enter a number,please\n";
read str;
if [ $str -lt 100 ];then
        echo "$str < 100\n";
else
        echo "$str >= 100\n";
fi;

逻辑表达式

表达式 例子 说明
if [ ! 表达式 ] if [ ! -d $num ] 如果不存在目录$num
if [ 表达式1 –a 表达式2 ] if [ $str -lt 100 -a $str -gt 10 ] 如果$str小于100并且大于10
if [ 表达式1 –o 表达式2 ] if [ $str -lt 100 -a $str -gt 10 ] 如果$str小于100或者大于10
  • 表达式与前面的= != -d –f –x -ne -eq -lt等合用
  • 逻辑符号就正常的接其他表达式,没有任何括号( ),就是并列if [ -z "$JHHOME" -a -d $HOME/$num ]
  • 注意逻辑与-a与逻辑或-o很容易和其他字符串或文件的运算符号搞混了

以 test 条件表达式 作为if条件
if test $num -eq 0 等价于 if [ $num –eq 0 ]

#!/bin/bash
echo "enter a number,please\n";
read str;
# 下面两种if,效果相同
if test $str -lt 100 -a $str -gt 10 ;then
#if [ $str -lt 100 -a $str -gt 10 ];then
        echo "$str < 100\n";
else
        echo "$str >= 100\n";
fi;

if简化语句
&& 如果是“前面”,则“后面”

# 变量不为空则输出变量
[ -n $HOME ] && echo $HOME;

|| 如果不是“前面”,则后面

# 如果变量为空,则输出提示
[ -n $HOME ] || echo '$HOME is empty'

用简化 if 和$1,$2,$3来检测参数,不合理就调用help
[ -z "$1" ] && help 如果第一个参数不存在(-z 字符串长度为0 )
[ "$1" = "-h" ] && help 如果第一个参数是-h,就显示help

转载自 http://blog.csdn.net/buutterfly/article/details/6615162

awk命令

awk是一种编程语言,用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入(stdin)、一个或多个文件,或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大编程工具。它在命令行中使用,但更多是作为脚本来使用。awk有很多内建的功能,比如数组、函数等,这是它和C语言的相同之处,灵活性是awk最大的优势。

##### awk命令格式和选项

语法形式

awk [options] 'script' var=value file(s) 
awk [options] -f scriptfile var=value file(s) 

常用命令选项

选项 说明
-F fs fs指定输入分隔符,fs可以是字符串或正则表达式,如-F:
-v var=value 赋值一个用户定义变量,将外部变量传递给awk
-f scripfile 从脚本文件中读取awk命令
-m[fr] val 对val值设置内在限制,-mf选项限制分配给val的最大块数目;-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能,在标准awk中不适用。
awk模式和操作

awk脚本是由模式和操作组成的。

模式

模式可以是以下任意一个:
- /正则表达式/:使用通配符的扩展集。
- 关系表达式:使用运算符进行操作,可以是字符串或数字的比较测试。
- 模式匹配表达式:用运算符~(匹配)和~!(不匹配)。
- BEGIN语句块、pattern语句块、END语句块

操作

操作由一个或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内,主要部分是:
- 变量或数组赋值
- 输出命令
- 内置函数
- 控制流语句

awk脚本基本结构
awk 'BEGIN{ print "start" } pattern{ commands } END{ print "end" }' file 

一个awk脚本通常由:BEGIN语句块、能够使用模式匹配的通用语句块、END语句块3部分组成,这三个部分是可选的。任意一个部分都可以不出现在脚本中,脚本通常是被单引号或双引号中,例如:

awk 'BEGIN{ i=0 } { i++ } END{ print i }' filename 
awk "BEGIN{ i=0 } { i++ } END{ print i }" filename
awk的工作原理
awk 'BEGIN{ commands } pattern{ commands } END{ commands }' 
  • 第一步:执行BEGIN{ commands }语句块中的语句;
  • 第二步:从文件或标准输入(stdin)读取一行,然后执行pattern{ commands }语句块,它逐行扫描文件,从第一行到最后一行重复这个过程,直到文件全部被读取完毕。
  • 第三步:当读至输入流末尾时,执行END{ commands }语句块。

BEGIN语句块在awk开始从输入流中读取行之前被执行,这是一个可选的语句块,比如变量初始化、打印输出表格的表头等语句通常可以写在BEGIN语句块中。
END语句块在awk从输入流中读取完所有的行之后即被执行,比如打印所有行的分析结果这类信息汇总都是在END语句块中完成,它也是一个可选语句块。
pattern语句块中的通用命令是最重要的部分,它也是可选的。如果没有提供pattern语句块,则默认执行{ print },即打印每一个读取到的行,awk读取的每一行都会执行该语句块。

示例

echo -e "A line 1\nA line 2" | awk 'BEGIN{ print "Start" } { print } END{ print "End" }' 
Start 
A line 1 
A line 2 
End 

当使用不带参数的print时,它就打印当前行,当print的参数是以逗号进行分隔时,打印时则以空格作为定界符。在awk的print语句块中双引号是被当作拼接符使用,例如:

echo | awk '{ var1="v1"; var2="v2"; var3="v3"; print var1,var2,var3; }' 
v1 v2 v3 

双引号拼接使用:

echo | awk '{ var1="v1"; var2="v2"; var3="v3"; print var1"="var2"="var3; }'
v1=v2=v3 

{ }类似一个循环体,会对文件中的每一行进行迭代,通常变量初始化语句(如:i=0)以及打印文件头部的语句放入BEGIN语句块中,将打印的结果等语句放在END语句块中。

awk内置变量(预定义变量)

说明:[A][N][P][G]表示第一个支持变量的工具,[A]=awk、[N]=nawk、[P]=POSIXawk、[G]=gawk

支持的工具 变量 说明
all $n 当前记录的第n个字段,比如n为1表示第一个字段,n为2表示第二个字段。
all $0 这个变量包含执行过程中当前行的文本内容。
[N] ARGC 命令行参数的数目。
[G] ARGIND 命令行中当前文件的位置(从0开始算)。
[N] ARGV 包含命令行参数的数组。
[G] CONVFMT 数字转换格式(默认值为%.6g)。
[P] ENVIRON 环境变量关联数组。
[N] ERRNO 最后一个系统错误的描述。
[G] FIELDWIDTHS 字段宽度列表(用空格键分隔)。
[A] FILENAME 当前输入文件的名。
[P] FNR 同NR,但相对于当前文件。
[A] FS 字段分隔符(默认是任何空格)。
[G] IGNORECASE 如果为真,则进行忽略大小写的匹配。
[A] NF 表示字段数,在执行过程中对应于当前的字段数。
[A] NR 表示记录数,在执行过程中对应于当前的行号。
[A] OFMT 数字的输出格式(默认值是%.6g)。
[A] OFS 输出字段分隔符(默认值是一个空格)。
[A] ORS 输出记录分隔符(默认值是一个换行符)。
[A] RS 记录分隔符(默认是一个换行符)。
[N] RSTART 由match函数所匹配的字符串的第一个位置。
[N] RLENGTH 由match函数所匹配的字符串的长度。
[N] SUBSEP 数组下标分隔符(默认值是34)。

示例

[root@jin ~]# echo -e "line1 f2 f3\nline2 f4 f5\nline3 f6 f7" | awk '{print "Line No."NR"(NR),:Lines:"NF"(NF)$0="$0",$1="$1",$2="$2}'
Line No.1(NR),:Lines:3(NF)$0=line1 f2 f3,$1=line1,$2=f2
Line No.2(NR),:Lines:3(NF)$0=line2 f4 f5,$1=line2,$2=f4
Line No.3(NR),:Lines:3(NF)$0=line3 f6 f7,$1=line3,$2=f6

使用print $NF可以打印出一行中的最后一个字段,使用$(NF-1)则是打印倒数第二个字段,其他以此类推:

echo -e "line1 f2 f3\nline2 f4 f5\nline3 f6 f7" | awk '{print $NF}'
f3
f5
f7
echo -e "line1 f2 f3\nline2 f4 f5\nline3 f6 f7" | awk '{print $(NF-1)}'
f2
f4
f6

打印每一行的第二和第三个字段:

awk '{ print $2,$3 }' filename

统计文件中的行数:

awk 'END{ print NR }' filename

以上命令只使用了END语句块,在读入每一行的时,awk会将NR更新为对应的行号,当到达最后一行NR的值就是最后一行的行号,所以END语句块中的NR就是文件的行数。 一个每一行中第一个字段值累加的例子

[root@jin ~]# seq 5 | awk 'BEGIN{sum=0} {sum+=$0;print sum"+"$0;} END{print "sum="sum}'
1+1
3+2
6+3
10+4
15+5
sum=15
将外部变量值传递给awk

借助-v选项,可以将外部值(并非来自stdin)传递给awk:

[root@jin ~]# var=88;echo | awk -v variable=${var} '{print variable;}'
88

另一种传递外部变量方法:

[root@jin ~]# var1=88;var2=888;echo | awk '{print v1,v2;}' v1=${var1} v2=${var2}
88 888

当输入来自于文件时使用:

awk '{ print v1,v2 }' v1=$var1 v2=$var2 filename

以上方法中,变量之间用空格分隔作为awk的命令行参数跟随在BEGIN、{}和END语句块之后。

awk运算与判断

作为一种程序设计语言所应具有的特点之一,awk支持多种运算,这些运算与C语言提供的基本相同。awk还提供了一系列内置的运算函数(如log、sqr、cos、sin等)和一些用于对字符串进行操作(运算)的函数(如length、substr等等)。这些函数的引用大大的提高了awk的运算功能。作为对条件转移指令的一部分,关系判断是每种程序设计语言都具备的功能,awk也不例外,awk中允许进行多种测试,作为样式匹配,还提供了模式匹配表达式~(匹配)和~!(不匹配)。作为对测试的一种扩充,awk也支持用逻辑运算符。

算术运算符
运算符 描述
+ - 加,减
* / & 乘,除与求余
+ - ! 一元加,减和逻辑非
^ *** 求幂
++ -- 增加或减少,作为前缀或后缀

例:

echo "" | awk '{a="b";print a++,++a;}'
0 2
赋值运算符
运算符 描述
= += -= = /= %= ^= *= 赋值语句

例子

a+=5; 等价于:a=a+5; 其它同类
逻辑运算符
运算符 描述
|| 逻辑或
&& 逻辑与

例子

echo "" | awk '{print (1>2 || 1<2),(1>2 && 1<2);}'
1 0
正则运算符
运算符 描述
~ ~! 匹配正则表达式和不匹配正则表达式
echo "" | awk '{if("123abc" ~ /^[a-z]+$/){print "ok";}}'
echo "" | awk '{if("123abc" !~ /^[a-z]+$/){print "ok";}}'
ok
关系运算符
运算符 描述
< <= > >= != == 关系运算符
echo "" | awk '{print (1<2)}'
1

注意:> < 可以作为字符串比较,也可以用作数值比较,关键看操作数如果是字符串就会转换为字符串比较。两个都为数字才转为数值比较。字符串比较:按照ASCII码顺序比较。

其它运算符
运算符 描述
$ 字段引用
空格 字符串连接符
?: C条件表达式
in 数组中是否存在某键值
echo "" | awk '{a="a";a="a" "bb";print a;}'
abb
echo "" | awk '{a="a";arr[0]="a";arr[1]="b";print (a in arr);}'
0
echo "" | awk '{a="a";arr[0]="a";arr["a"]="111";print (a in arr);}'
1
awk高级输入输出
读取下一条记录

awk中next语句使用:在循环逐行匹配,如果遇到next,就会跳过当前行,直接忽略下面语句。而进行下一行匹配。net语句一般用于多行合并:

[root@jin mysql]# cat test.txt 
a
b
c
d
[root@jin mysql]# awk '(NR%2){next}{print "Line:"NR","$0;}' test.txt 
Line:2,b
Line:4,d
简单地读取一条记录

awk getline用法:输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容,并给NF,NR和FNR等内建变量赋值。如果得到一条记录,getline函数返回1,如果到达文件的末尾就返回0,如果出现错误,例如打开文件失败,就返回-1。
getline语法:getline var,变量var包含了特定行的内容。
awk getline从整体上来说,用法说明:
- 当其左右无重定向符|<时:getline作用于当前文件,读入当前文件的第一行给其后跟的变量var或$0(无变量),应该注意到,由于awk在处理getline之前已经读入了一行,所以getline得到的返回结果是隔行的。
- 当其左右有重定向符|<时:getline则作用于定向输入文件,由于该文件是刚打开,并没有被awk读入一行,只是getline读入,那么getline返回的是该文件的第一行,而不是隔行。

示例: 执行linux的date命令,并通过管道输出给getline,然后再把输出赋值给自定义变量out,并打印它:

awk 'BEGIN{ "date" | getline out;print out}'
2016年 11月 12日 星期六 10:17:11 CST

执行shell的date命令,并通过管道输出给getline,然后getline从管道中读取并将输入赋值给out,split函数把变量out转化成数组mon,然后打印数组mon的第二个元素:

[root@jin mysql]# awk 'BEGIN{ "date" | getline out;split(out,mon);print mon[2];}'
11月

命令ls的输出传递给geline作为输入,循环使getline从ls的输出中读取一行,并把它打印到屏幕。这里没有输入文件,因为BEGIN块在打开输入文件前执行,所以可以忽略输入文件。

awk 'BEGIN{while("ls" | getline) print;}'
关闭文件

awk中允许在程序中关闭一个输入或输出文件,方法是使用awk的close语句。

close("filename")

filename可以是getline打开的文件,也可以是stdin,包含文件名的变量或者getline使用的确切命令。或一个输出文件,可以是stdout,包含文件名的变量或使用管道的确切命令。

输出到一个文件

awk中允许用如下方式将结果输出到一个文件:

echo "" | awk '{printf("aaa") > "test.txt"}'

echo "" | awk '{printf("aaa") >> "test.txt"}'
设置字段定界符

默认的字段定界符是空格,可以使用-F "定界符"明确指定一个定界符:

awk -F ":" '{print $1}' /etc/passwd
awk -F: '{print $1}' /etc/passwd
awk 'BEGIN{FS=":"} {print $1}' /etc/passwd

BEGIN语句块中则可以用FS="定界符"设置输出字段的定界符。

流程控制语句

在linux awk的while、do-while和for语句中允许使用break,continue语句来控制流程走向,也允许使用exit这样的语句来退出。break中断当前正在执行的循环并跳到循环外执行下一条语句。if 是流程选择用法。awk中,流程控制语句,语法结构,与c语言类型。有了这些语句,其实很多shell程序都可以交给awk,而且性能是非常快的。下面是各个语句用法。

条件判断语句
if(表达式) 
    语句1 
else 
    语句2

格式中语句1可以是多个语句,为了方便判断和阅读,最好将多个语句用{}括起来。awk分枝结构允许嵌套,其格式为:

if(表达式) 
    {语句1} 
else if(表达式) 
    {语句2} 
    else 
    {语句3}

示例:

awk 'BEGIN{
    test=100;
    if(test>90)
    {
        print "A";
    }
    else if(test>80)
    {
        print "B";
    }
    else
    {
        print "C";
    }
}'

每条命令语句后面可以用;分号结尾。

循环语句

while语句

while(表达式) {语句}

示例

awk 'BEGIN{
    test=100;
    total=0;
    while(test > 0)
    {
        total+=test;
        test--;
    }
    print total;
}'

for循环
for循环有两种格式:
格式1:

for(变量 in 数组) {语句} 

示例:

awk 'BEGIN{
    for(key in ENVIRON)
    {
        print key"="ENVIRON[key];
    }
}'

注:ENVIRON是awk常量,是子典型数组。
格式2:

for(变量;条件;表达式) {语句}

示例:

awk 'BEGIN{
    total=0;
    for(i=0;i<=100;i++)
    {
        total+=i;
    }
    print "total="total;
}'

do循环

do {语句} while(条件)

示例:

awk 'BEGIN{
    total=0;
    i=1;
    do
    {
        total+=i;
        i++;
    }while(i <= 100);
    print "total="total;
}'
其他语句
  • break 当 break 语句用于 while 或 for 语句时,导致退出程序循环。
  • continue 当 continue 语句用于 while 或 for 语句时,使程序循环移动到下一个迭代。
  • next 能能够导致读入下一个输入行,并返回到脚本的顶部。这可以避免对当前输入行执行其他的操作过程。
  • exit 语句使主输入循环退出并将控制转移到END,如果END存在的话。如果没有定义END规则,或在END中应用exit语句,则终止脚本的执行。
数组应用

数组是awk的灵魂,处理文本中最不能少的就是它的数组处理。因为数组索引(下标)可以是数字和字符串在awk中数组叫做关联数组(associative arrays)。awk 中的数组不必提前声明,也不必声明大小。数组元素用0或空字符串来初始化,这根据上下文而定。

数组的定义

数字做数组索引(下标):

Array[1]="sun" 
Array[2]="kai"

字符串做数组索引(下标):

Array["first"]="www" 
Array["last"]="name" 
Array["birth"]="1987"

使用中print Array[1]会打印出sun;使用print Array[2]会打印出kai;使用print["birth"]会得到1987。

读取数组的值

{ for(item in array) {print array[item]}; } #输出的顺序是随机的 
{ for(i=1;i<=len;i++) {print array[i]}; } #Len是数组的长度
数组相关函数

得到数组长度:

echo | awk '{str="This is a test!";arrLength=split(str,arr," ");print length(arr),arrLength;}'
4 4

length返回字符串以及数组长度,split进行分割字符串为数组,也会返回分割得到数组长度。

echo | awk '{str="This is a test!";arrLength=split(str,arr," ");print asort(arr),arrLength;}'
4 4

asort对数组进行排序,返回数组长度。

输出数组内容(有序无序输出)

echo | awk '{str="This is a test!";arrLength=split(str,arr," ");for(key in arr){print key"="arr[key]}}'
4=test!
1=This
2=is
3=a

for…in输出,因为数组是关联数组,默认是无序的。所以通过for…in得到是无序的数组。如果需要得到有序数组,需要通过下标获得。

echo | awk '{str="This is a test!";arrLength=split(str,arr," ");for(i=1;i<=arrLength;i++){print i"="arr[i]}}'
1=This
2=is
3=a
4=test!

注意:数组下标是从1开始,与C数组不一样。

判断键值存在以及删除键值:

#错误的判断方法:
echo | awk '{str="This is a test!";split(str,arr," ");if(arr["c"] != "1"){print "Not exists";};for(key in arr){print key"="arr[key]}}'
Not exists
4=test!
c=
1=This
2=is
3=a

以上出现奇怪问题,tB["c"]没有定义,但是循环时候,发现已经存在该键值,它的值为空,这里需要注意,awk数组是关联数组,只要通过数组引用它的key,就会自动创建改序列。

echo | awk '{str="This is a test!";split(str,arr," ");if(!("c" in arr)){print "Not exists";};for(key in arr){print key"="arr[key]}}'
Not exists
4=test!
1=This
2=is
3=a

if(key in array)通过这种方法判断数组中是否包含key键值。

echo | awk '{str="This is a test!";split(str,arr," ");delete arr[1];for(key in arr){print key"="arr[key]}}'
4=test!
2=is
3=a

delete array[key]可以删除,对应数组key的,序列值。

二维、多维数组使用

awk的多维数组在本质上是一维数组,更确切一点,awk在存储上并不支持多维数组。awk提供了逻辑上模拟二维数组的访问方式。例如,array[2,4]=1这样的访问是允许的。awk使用一个特殊的字符串SUBSEP(�34)作为分割字段,在上面的例子中,关联数组array存储的键值实际上是2�344

类似一维数组的成员测试,多维数组可以使用if ( (i,j) in array)这样的语法,但是下标必须放置在圆括号中。类似一维数组的循环访问,多维数组使用for ( item in array )这样的语法遍历数组。与一维数组不同的是,多维数组必须使用split()函数来访问单独的下标分量。

awk 'BEGIN{
    for(i=0;i<10;i++)
    {
        for(j=0;j<10;j++){
            arr[i,j]=i","j;
            print arr[i,j];
        }
    }
}'

可以通过array[k,k2]引用获得数组内容。
另一种方法:

awk 'BEGIN{
    for(i=0;i<10;i++)
    {
        for(j=0;j<10;j++){
            arr[i,j]=i","j;
        }
    }
    for(item in arr)
    {
        split(arr[item],arrTemp,SUBSEP);
        for(key in arrTemp)
        {
            print arrTemp[key];
        }
    }
}'
内置函数

awk内置函数,主要分以下3种类似:算数函数、字符串函数、其它一般函数、时间函数。
算术函数

格式 描述
atan2( y, x ) 返回 y/x 的反正切。
cos( x ) 返回 x 的余弦;x 是弧度。
sin( x ) 返回 x 的正弦;x 是弧度。
exp( x ) 返回 x 幂函数。
log( x ) 返回 x 的自然对数。
sqrt( x ) 返回 x 平方根。
int( x ) 返回 x 的截断至整数的值。
rand( ) 返回任意数字 n,其中 0 <= n < 1。
srand( [expr] ) 将 rand 函数的种子值设置为 Expr 参数的值,或如果省略 Expr 参数则使用某天的时间。返回先前的种子值。

举例说明:

awk 'BEGIN{OFMT="%.3f";fs=sin(1);fe=exp(10);fl=log(10);fi=int(3.1415);print fs,fe,fl,fi;}'
0.841 22026.466 2.303 3

获得随机数

echo | awk '{srand();print rand()*100;}'
5.612
echo | awk '{srand();print rand()*100;}'
39.8311
echo | awk '{srand();print rand()*100;}'
39.8311
字符串函数
格式 描述
gsub( Ere, Repl, [ In ] ) 除了正则表达式所有具体值被替代这点,它和 sub 函数完全一样地执行。
sub( Ere, Repl, [ In ] ) 用 Repl 参数指定的字符串替换 In 参数指定的字符串中的由 Ere 参数指定的扩展正则表达式的第一个具体值。sub 函数返回替换的数量。出现在 Repl 参数指定的字符串中的 &(和符号)由 In 参数指定的与 Ere 参数的指定的扩展正则表达式匹配的字符串替换。如果未指定 In 参数,缺省值是整个记录($0 记录变量)。
index( String1, String2 ) 在由 String1 参数指定的字符串(其中有出现 String2 指定的参数)中,返回位置,从 1 开始编号。如果 String2 参数不在 String1 参数中出现,则返回 0(零)。
length [(String)] 返回 String 参数指定的字符串的长度(字符形式)。如果未给出 String 参数,则返回整个记录的长度($0 记录变量)。
blength [(String)] 返回 String 参数指定的字符串的长度(以字节为单位)。如果未给出 String 参数,则返回整个记录的长度($0 记录变量)。
substr( String, M, [ N ] ) 返回具有 N 参数指定的字符数量子串。子串从 String 参数指定的字符串取得,其字符以 M 参数指定的位置开始。M 参数指定为将 String 参数中的第一个字符作为编号 1。如果未指定 N 参数,则子串的长度将是 M 参数指定的位置到 String 参数的末尾 的长度。
match( String, Ere ) 在 String 参数指定的字符串(Ere 参数指定的扩展正则表达式出现在其中)中返回位置(字符形式),从 1 开始编号,或如果 Ere 参数不出现,则返回 0(零)。RSTART 特殊变量设置为返回值。RLENGTH 特殊变量设置为匹配的字符串的长度,或如果未找到任何匹配,则设置为 -1(负一)。
split( String, A, [Ere] ) 将 String 参数指定的参数分割为数组元素 A[1], A[2], . . ., A[n],并返回 n 变量的值。此分隔可以通过 Ere 参数指定的扩展正则表达式进行,或用当前字段分隔符(FS 特殊变量)来进行(如果没有给出 Ere 参数)。除非上下文指明特定的元素还应具有一个数字值,否则 A 数组中的元素用字符串值来创建。
tolower( String ) 返回 String 参数指定的字符串,字符串中每个大写字符将更改为小写。大写和小写的映射由当前语言环境的 LC_CTYPE 范畴定义。
toupper( String ) 返回 String 参数指定的字符串,字符串中每个小写字符将更改为大写。大写和小写的映射由当前语言环境的 LC_CTYPE 范畴定义。
sprintf(Format, Expr, Expr, . . . ) 根据 Format 参数指定的 printf 子例程格式字符串来格式化 Expr 参数指定的表达式并返回最后生成的字符串。

注:Ere都可以是正则表达式

echo | awk '{test="this a test2016test!";sub(/[0-9]+/,"!!!",test);print test;}'
this a test!!!test!
echo | awk '{test="this a test2016test!";gsub(/[0-9]+/,"!!!",test);print test;}'
this a test!!!test!

在 info中查找满足正则表达式,/[0-9]+/ 用””替换,并且替换后的值,赋值给info 未给info值,默认是$0

查找字符串(index使用)

echo | awk '{test="this a test2016test!";print index(test,"test");}'
8
echo | awk '{test="this a test2016test!";print index(test,"test1");}'
0

未找到,返回0

正则表达式匹配查找(match使用)

echo | awk '{test="this a test2016test!";print match(test,/[0-9]+/);}'
12

截取字符串(substr使用)

echo | awk '{test="this a test2016test!";print substr(test,1,3);}'
thi

从第 1个 字符开始,截取3个长度字符串

字符串分割(split使用)

echo | awk '{test="this a test2016test!";split(test,arr);for(key in arr){print arr[key];}}'
this
a
test2016test!

分割test,动态创建数组arr,这里比较有意思,awk for …in循环,是一个无序的循环。 并不是从数组下标1…n ,因此使用时候需要注意。

格式化字符串输出(sprintf使用)
格式化字符串格式:
其中格式化字符串包括两部分内容:一部分是正常字符,这些字符将按原样输出; 另一部分是格式化规定字符,以"%"开始,后跟一个或几个规定字符,用来确定输出内容格式。

格式 描述
%d 十进制有符号整数
%u 十进制无符号整数
%f 浮点数
%s 字符串
%c 单个字符
%p 指针的值
%e 指数形式的浮点数
%x %X 无符号以十六进制表示的整数
%o 无符号以八进制表示的整数
echo | awk '{n1=123;n2=123.456;n3=1.23456;printf("%.2f,%.2u,%.2g,%X,%o\n",n1,n2,n3,n1,n1);}'
123.00,123,1.2,7B,173
一般函数
格式 描述
close( Expression ) 用同一个带字符串值的 Expression 参数来关闭由 print 或 printf 语句打开的或调用 getline 函数打开的文件或管道。如果文件或管道成功关闭,则返回 0;其它情况下返回非零值。如果打算写一个文件,并稍后在同一个程序中读取文件,则 close 语句是必需的。
system(command ) 执行 Command 参数指定的命令,并返回退出状态。等同于 system 子例程。
Expression | getline [ Variable ] 从来自 Expression 参数指定的命令的输出中通过管道传送的流中读取一个输入记录,并将该记录的值指定给 Variable 参数指定的变量。如果当前未打开将 Expression 参数的值作为其命令名称的流,则创建流。创建的流等同于调用 popen 子例程,此时 Command 参数取 Expression 参数的值且 Mode 参数设置为一个是 r 的值。只要流保留打开且 Expression 参数求得同一个字符串,则对 getline 函数的每次后续调用读取另一个记录。如果未指定 Variable 参数,则 $0 记录变量和 NF 特殊变量设置为从流读取的记录。
getline [ Variable ] < Expression 从 Expression 参数指定的文件读取输入的下一个记录,并将 Variable 参数指定的变量设置为该记录的值。只要流保留打开且 Expression 参数对同一个字符串求值,则对 getline 函数的每次后续调用读取另一个记录。如果未指定 Variable 参数,则 $0 记录变量和 NF 特殊变量设置为从流读取的记录。
getline [ Variable ] 将 Variable 参数指定的变量设置为从当前输入文件读取的下一个输入记录。如果未指定 Variable 参数,则 $0 记录变量设置为该记录的值,还将设置 NF、NR 和 FNR 特殊变量。

打开外部文件(close用法)

echo | awk '{filePath="/etc/passwd";while("cat "filePath | getline){print $0;};close(filePath);}'
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin

逐行读取外部文件

echo | awk '{while(getline < "/etc/passwd"){print $0;}close("/etc/passwd");}'
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin

读取输出的内容

[root@jin mysql]# awk 'BEGIN{print "Enter your name:\n";getline name;printf("%s\n",name);}'
Enter your name:

jin
jin

调用外部程序

awk 'BEGIN{b=system("ls /etc -al");print b;}'
总用量 1172
drwxr-xr-x. 61 root root   4096 11月  9 13:12 .
dr-xr-xr-x. 23 root root   4096 10月 28 15:13 ..
-rw-r--r--.  1 root root     45 10月 28 15:11 adjtime
-rw-r--r--.  1 root root   1512 1月  12 2010 aliases
时间函数
格式 描述
mktime( YYYY MM dd HH MM ss[ DST]) 生成时间格式
strftime([format [, timestamp]]) 格式化时间输出,将时间戳转为时间字符串 具体格式,见下表.
systime() 得到时间戳,返回从1970年1月1日开始到当前时间(不计闰年)的整秒数

建指定时间(mktime使用)

awk 'BEGIN{time1=mktime("2011 11 11 11 11 11");printf("%s\n%s\n",time1,strftime("%c",time1));}'
1320981071
2011年11月11日 星期五 11时11分11秒
awk 'BEGIN{time1=mktime("2011 11 11 11 11 11");time2=mktime("2011 11 11 11 11 12");printf("%s\n",time2-time1);}'
1

求2个时间段中间时间差,介绍了strftime使用方法

awk 'BEGIN{time1=mktime("2011 11 11 11 11 11");time2=systime();printf("%s\n",time2-time1);}'
157953818

strftime日期和时间格式说明符

格式 描述
%a 星期几的缩写(Sun)
%A 星期几的完整写法(Sunday)
%b 月名的缩写(Oct)
%B 月名的完整写法(October)
%c 本地日期和时间
%d 十进制日期
%D 日期 08/20/99
%e 日期,如果只有一位会补上一个空格
%H 用十进制表示24小时格式的小时
%I 用十进制表示12小时格式的小时
%j 从1月1日起一年中的第几天
%m 十进制表示的月份
%M 十进制表示的分钟
%p 12小时表示法(AM/PM)
%S 十进制表示的秒
%U 十进制表示的一年中的第几个星期(星期天作为一个星期的开始)
%w 十进制表示的星期几(星期天是0)
%W 十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
%x 重新设置本地日期(08/20/99)
%X 重新设置本地时间(12:00:00)
%y 两位数字表示的年(99)
%Y 当前月份
%Z 时区(PDT) %% 百分号(%)

转载自 http://man.linuxde.net/awk