tbox v1.6.5 发布,改进协程调度支持

2020-3-1 12:05

这个版本功能和特性改动并不多,主要是改进了下协程的调度模块,实现对 process, socket,pipe 这三种对象间的统一调度支持,我们可以在协程中同时操作进程,socket 还有管道。

这有赖于 tbox 提供的 poller 模块,统一封装了对 epoll/kqueue/select/poll/iocp 等接口,实现跨平台的等待 socket/pipe 对象事件。

相关 poller 接口主要有下面四个,其中 object 可以是 process/pipe/socket 对象,然后设置上对应的事件就可以去同时 wait 了。


tb_bool_t tb_poller_insert(tb_poller_ref_t poller, tb_poller_object_ref_t object, tb_size_t events, tb_cpointer_t priv);
tb_bool_t tb_poller_remove(tb_poller_ref_t poller, tb_poller_object_ref_t object);
tb_bool_t tb_poller_modify(tb_poller_ref_t poller, tb_poller_object_ref_t object, tb_size_t events, tb_cpointer_t priv);
tb_long_t tb_poller_wait(tb_poller_ref_t poller,   tb_poller_event_func_t func, tb_long_t timeout);

另外,poller 还对进程事件的等待也加上了支持,可以通过相同的 wait 接口同时对 process 的退出事件进行等待,关于这块内部其实还是做了很多事的。

例如:

  1. win 上通过 thread+WaitForMultipleObjects 的方式来对接到 poller
  2. unix 上通过 thread/waitpid 的方式来对接到 poller

更新内容

新特性

  • #112: 新增 unix socket 支持,感谢@Codehz的贡献
  • 在协程和 poller 中支持同时等待和调度 socket,pipe io 和 process

改进

  • 改进 uuid 生成,实现 uuid v4
  • 支持 msys/mingw 和 cygwin/gcc 上编译

特性

流库

针对 http、file、socket、data 等流数据,实现统一接口进行读写,并且支持: 阻塞、非阻塞、异步 三种读写模式。 支持中间增加多层 filter 流进行流过滤,实现边读取,内部边进行解压、编码转换、加密等操作,极大的减少了内存使用。

主要提供以下模块:

  • stream:通用非阻塞流,用于一般的单独 io 处理,同时支持协程以实现异步传输。
  • transfer:流传输器,维护两路流的传输。
  • static_stream:针对静态数据 buffer 优化的静态流,用于轻量快速的数据解析。

协程库

  • 快速高效的协程切换支持
  • 提供跨平台支持,核心切换算法参考 boost,并且对其进行重写和优化,目前支持架构:x86, x86_64, arm, arm64, mips32
  • 提供 channel 协程间数据通信支持,基于生产、消费者模型
  • 提供信号量、协程锁支持
  • socket、stream 都模块原生支持协程,并且可在线程和协程间进行无缝切换
  • 提供 http、file 等基于协程的简单服务器实例,只需几百行代码,就可以从 socket 开始写个高性能 io 服务器,代码逻辑比异步回调模式更加清晰
  • 同时提供 stackfull, stackless 两种协程模式支持,stackless 协程更加的轻量(每个协程只占用几十个 bytes ),切换更快(会牺牲部分易用性)
  • 支持 epoll, kqueue, poll, select 和 IOCP
  • 在协程和 poller 中支持同时等待和调度 socket,pipe io 和 process

数据库

  • 统一并简化数据库操作接口,适配各种数据源,通过统一的 url 来自动连接打开支持的数据库,数据的枚举采用迭代器模型。
  • 目前支持 sqlite3 以及 mysql 两种关系型数据库,也可自定义扩展使用其他关系型数据库。

xml 库

  • 针对 xml 提供 DOM 和 SAX 两种解析模式,SAX 方式采用外部迭代模式,灵活性和性能更高,并且可以选择指定路径,进行解析。
  • 解析过程完全基于 stream,所以是高度流化的,可以实现边下载、边解压、边转码、边解析一条龙服务,使用较低的内存也可以解析大规模数据。
  • 提供 xml writer 以支持对 xml 生成

内存库

  • 参考 linux 内核内存管理机制的实现,并对其进行各种改造和优化,所实现的 TBOX 独有的一整套内存池管理架构。
  • 调试模式下,可以轻松检测并定位内存泄露、内存越界溢出、内存重叠覆盖等常见内存问题,并对整体内存的使用进行了统计和简要分析。
  • 针对大块数据、小块数据、字符串数据进行了充分的利用,避免了大量外部碎片和内部碎片的产生。分配操作进行了各种优化,96%的情况下,效率都是在 O(1)。

容器库

  • 提供哈希、链表、数组、队列、堆栈、最小最大堆等常用容器。
  • 支持各种常用成员类型,在原有的容器期初上,其成员类型还可以完全自定义扩展。
  • 所有容器都支持迭代器操作。
  • 大部分容器都可以支持基于 stream 的序列化和反序列化操作。

算法库

  • 提供各种排序算法:冒泡排序、堆排序、快速排序、插入排序。
  • 提供各种查找算法:线性遍历、二分法搜索。
  • 提供各种遍历、删除、统计算法。
  • 以迭代器为接口,实现算法和容器的分离,类似 stl,但是 c 实现的,更加轻量。

网络库

  • 实现 http 客户端模块
  • 实现 cookies
  • 实现 dns 解析与缓存
  • 实现 ssl(支持 openssl, polarssl, mbedtls)
  • 支持 ipv4、ipv6
  • 支持通过协程实现异步模式

数学运算库

  • 提供各种精度的定点运算支持
  • 提供随机数生成器

libc 库

  • libc 的一个轻量级实现,完全跨平台,并且针对不同架构进行了优化。
  • 支持大部分字符串、宽字符串操作。
  • 扩展字符串、宽字符串的各种大小写不敏感操作接口
  • 扩展memset_u16memset_u32等接口,并对其进行高度优化,尤其适合图形渲染程序

libm 库

  • libm 部分接口的一个轻量级实现,以及对常用系统接口的封装。(目前只实现了部分,之后有时间会完全实现掉)
  • 扩展部分常用接口,增加对 sqrt、log2 等常用函数的整数版本计算,进行高度优化,不涉及浮点运算,适合嵌入式环境使用。

object 库

  • 轻量级类 apple 的 CoreFoundation 库,支持 object、dictionary、array、string、number、date、data 等常用对象,并且可以方便扩展自定义对象的序列化。
  • 支持对 xml、json、binary 以及 apple 的 plist(xplist/bplist)格式序列化和反序列化。 并且实现自有的 binary 序列化格式, 针对明文进行了简单的加密,在不影响性能的前提下,序列化后的大小比 bplist 节省 30%。

平台库

  • 提供 file、directory、socket、thread、time 等常用系统接口
  • 提供 atomic、atomic64 接口
  • 提供高精度、低精度定时器
  • 提供高性能的线程池操作
  • 提供 event、mutex、semaphore、spinlock 等事件、互斥、信号量、自旋锁操作
  • 提供获取函数堆栈信息的接口,方便调试和错误定位
  • 提供跨平台动态库加载接口(如果系统支持的话)
  • 提供 io 轮询器,针对 epoll, poll, select, kqueue 进行跨平台封装
  • 提供跨平台上下文切换接口,主要用于协程实现,切换效率非常高

压缩库

  • 支持 zlib/zlibraw/gzip 的压缩与解压(需要第三方 zlib 库支持)。

字符编码库

  • 支持 utf8、utf16、gbk、gb2312、uc2、uc4 之间的互相转码,并且支持大小端格式。

实用工具库

  • 实现 base64/32 编解码
  • 实现 crc32、adler32、md5、sha1 等常用 hash 算法
  • 实现日志输出、断言等辅助调试工具
  • 实现 url 编解码
  • 实现位操作相关接口,支持各种数据格式的解析,可以对 8bits、16bits、32bits、64bits、float、double 以及任意 bits 的字段进行解析操作,并且同时支持大端、小端和本地端模式,并针对部分操作进行了优化,像 static_stream、stream 都有相关接口对其进行了封装,方便在流上进行快速数据解析。
  • 实现 swap16、swap32、swap64 等位交换操作,并针对各个平台进行了优化。
  • 实现一些高级的位处理接口,例如:位 0 的快速统计、前导 0 和前导 1 的快速位计数、后导 01 的快速位计数
  • 实现单例模块,可以对静态对象、实例对象进行快速的单例封装,实现全局线程安全
  • 实现 option 模块,对命令行参数进行解析,提供快速方便的命令行选项建立和解析操作,对于写终端程序还是很有帮助的

正则表达式库

  • 支持匹配和替换操作
  • 支持全局、多行、大小写不敏感等模式
  • 使用 pcre, pcre2 和 posix 正则库

一些使用 tbox 的项目:

 

路过

雷人

握手

鲜花

鸡蛋

周一至周日9:00-18:00

反馈建议

service#bjjem.com 在线QQ咨询

扫描二维码关注我们

Powered by Discuz! © 2001-2019