linux AIO -- libaio 实现的异步 IO 简介及实现原理

2015-05-24 18:29:21   最后更新: 2015-05-24 18:39:19   访问数量:2967




POSIX AIO 是在用户控件模拟异步 IO 的功能,不需要内核支持,而 linux AIO 则是 linux 内核原声支持的异步 IO 调用,行为更加低级

 

关于 linux IO 模型及 AIO、POSIX AIO 的简介,请参看:

POSIX AIO -- glibc 版本异步 IO 简介

 

libaio 实现的异步 IO 主要包含以下接口:

libaio 实现的异步 IO
函数功能原型
io_setup创建一个异步IO上下文(io_context_t是一个句柄)int io_setup(int maxevents, io_context_t *ctxp);
io_destroy销毁一个异步IO上下文(如果有正在进行的异步IO,取消并等待它们完成)int io_destroy(io_context_t ctx);
io_submit提交异步IO请求long io_submit(aio_context_t ctx_id, long nr, struct iocb **iocbpp);
io_cancel取消一个异步IO请求long io_cancel(aio_context_t ctx_id, struct iocb *iocb, struct io_event *result);
io_getevents等待并获取异步IO请求的事件(也就是异步请求的处理结果)long io_getevents(aio_context_t ctx_id, long min_nr, long nr, struct io_event *events, struct timespec *timeout);

 

iocb 结构

struct iocb主要包含以下字段:

struct iocb { /* * 请求类型 * 如:IOCB_CMD_PREAD=读、IOCB_CMD_PWRITE=写、等 */ __u16 aio_lio_opcode; /* * 要被操作的fd */ __u32 aio_fildes; /* * 读写操作对应的内存buffer */ __u64 aio_buf; /* * 需要读写的字节长度 */ __u64 aio_nbytes; /* * 读写操作对应的文件偏移 */ __s64 aio_offset; /* * 请求可携带的私有数据 * 在io_getevents时能够从io_event结果中取得) */ __u64 aio_data; /* * 可选IOCB_FLAG_RESFD标记 * 表示异步请求处理完成时使用eventfd进行通知 */ __u32 aio_flags; /* * 有IOCB_FLAG_RESFD标记时,接收通知的eventfd */ __u32 aio_resfd; }

 

 

io_event 结构

struct io_event { /* * 对应iocb的aio_data的值 */ __u64 data; /* * 指向对应iocb的指针 */ __u64 obj; /* * 对应IO请求的结果 * >=0: 相当于对应的同步调用的返回值;<0: -errno */ __s64 res; }

 

 

aio_context_t 即 AIO 上下文句柄,该结构体对应内核中的一个 struct kioctx 结构,用来给一组异步 IO 请求提供一个上下文环境,每个进程可以有多个 aio_context_t,io_setup 的第一个参数声明了同时驻留在内核中的异步 IO 上下文数量

kioctx 结构主要包含以下字段:

struct kioctx { /* * 调用者进程对应的内存管理结构 * 代表了调用者的虚拟地址空间 */ struct mm_struct* mm; /* * 上下文ID,也就是io_context_t句柄的值 * 等于ring_info.mmap_base */ unsigned long user_id; /* * 属于同一地址空间的所有kioctx结构通过这个list串连起来 * 链表头是mm->ioctx_list */ struct hlist_node list; /* * 等待队列 * io_getevents系统调用可能需要等待 * 调用者就在该等待队列上睡眠 */ wait_queue_head_t wait; /* * 进行中的请求数目 */ int reqs_active; /* * 进行中的请求队列 */ struct list_head active_reqs; /* * 最大请求数 * 对应io_setup调用的int maxevents参数 */ unsigned max_reqs; /* * 需要aio线程处理的请求列表 * 某些情况下,IO请求可能交给aio线程来提交 */ struct list_head run_list; /* * 延迟任务队列 * 当需要aio线程处理请求时,将wq挂入aio线程对应的请求队列 */ struct delayed_work wq; /* * 存放请求结果io_event结构的ring buffer */ struct aio_ring_info ring_info; }

 

 

其中,aio_ring_info 结构用于存放请求结果 io_event 结构的 ring buffer,主要包含以下字段:

struct aio_ring_info { unsigned long mmap_base; // ring buffer 的首地址 unsigned long mmap_size; // ring buffer 空间大小 struct page** ring_pages; // ring buffer 对应的 page 数组 long nr_pages; // 分配空间对应的页面数目 unsigned nr; // io_event 的数目 unsigned tail; // io_event 的存取游标 }

 

 

aio_ring_info 结构中,nr_page * PAGE_SIZE = mmap_size

以上数据结构都是在内核地址空间上分配的,是内核专有的,用户程序无法访问和使用

但是 io_event 结构是内核在用户地址空间上分配的 buffer,用户可以修改,但是首地址、大小等信息都是由内核维护的,用户程序通过 io_getevents 函数修改

 

io_setup 函数创建了一个 AIO 上下文,并通过值-结果参数 aio_context_t 类型指针返回其句柄

io_setup 调用后,内核会通过 mmap 在对应的用户地址空间分配一段内存,由 aio_ring_info 结构中的 mmap_base、mmap_size 描述这个映射对应的位置和大小,由 ring_pages、nr_pages 描述实际分配的物理内存页面信息,异步 IO 完成后,内核会将异步 IO 的结果写入其中

 

在 mmap_base 指向的用户地址空间上,会存放着一个 struct aio_ring 结构,用来管理 ring buffer,主要包含以下字段:

unsigned id; // 等于 aio_ring_info 中的 user_id unsigned nr; // 等于 aio_ring_info 中的 nr unsigned head; // io_events 数组队首 unsigned tail; // io_events 数组游标 unsigned magic; // 用于确定数据结构有没有异常篡改 unsigned compat_features; unsigned incompat_features; unsigned header_length; // aio_ring 结构大小 struct io_event *io_events; // io_event buffer 首地址

 

 

这个数据结构存在于用户地址空间中,内核作为生产者,在 buffer 中放入数据,并修改 tail 字段,用户程序作为消费者从 buffer 中取出数据,并修改 head 字段

 

每一个请求用户都会创建一个 iocb 结构用于描述这个请求,而对应于用户传递的每一个 iocb 结构,内核都会生成一个与之对应的 kiocb 结构,并只该结构中的 ring_info 中预留一个 io_events 空间,用于保存处理的结果

struct kiocb { struct kioctx* ki_ctx; /* 请求对应的kioctx(上下文结构)*/ struct list_head ki_run_list; /* 需要aio线程处理的请求,通过该字段链入ki_ctx->run_list */ struct list_head ki_list; /* 链入ki_ctx->active_reqs */ struct file* ki_filp; /* 对应的文件指针*/ void __user* ki_obj.user; /* 指向用户态的iocb结构*/ __u64 ki_user_data; /* 等于iocb->aio_data */ loff_t ki_pos; /* 等于iocb->aio_offset */ unsigned short ki_opcode; /* 等于iocb->aio_lio_opcode */ size_t ki_nbytes; /* 等于iocb->aio_nbytes */ char __user * ki_buf; /* 等于iocb->aio_buf */ size_t ki_left; /* 该请求剩余字节数(初值等于iocb->aio_nbytes)*/ struct eventfd_ctx* ki_eventfd; /* 由iocb->aio_resfd对应的eventfd对象*/ ssize_t (*ki_retry)(struct kiocb *); /*由ki_opcode选择的请求提交函数*/ }

 

 

这以后,对应的异步读写请求就通过调用 file->f_op->aio_read 或 file->f_op->aio_write 被提交到了虚拟文件系统,与普通的文件读写请求非常类似,但是提交完后 IO 请求立即返回,而不等待虚拟文件系统完成相应操作

对于虚拟文件系统返回 EIOCBRETRY 需要重试的情况,内核会在当前 CPU 的 aio 线程中添加一个任务,让 aio 完成该任务的重新提交

 

 

 

从上图中的流程就可以看出,linux 版本的 AIO 与 POSIX 版本的 AIO 最大的不同在于 linux 版本的 AIO 实际上利用了 CPU 和 IO 设备异步工作的特性,与同步 IO 相比,很大程度上节约了 CPU 资源的浪费

而 POSIX AIO 利用了线程与线程之间的异步工作特性,在用户线程中实现 IO 的异步操作

 

POSIX AIO 支持非 direct-io,而且实现非常灵活,可配置性很高,可以利用内核提供的page cache来提高效率,而 linux 内核实现的 AIO 就只支持 direct-io,cache 的工作就需要用户进程考虑了

 






读书笔记      linux      unix      分页      apue      unix环境高级编程      io      技术分享      内存      存储      posix      aio      内核      异步io      libaio      io_setup      io_submit      io_getevents      iocb      context      物理内存      内存映射     


京ICP备15018585号