ITeye博客

glusterfs专栏

lancelotwjq · 共 27 篇文章

Glusterfs+Swift 对外提供对像存储

虽然Glusterfs本身对外只提供POSIX兼容的文件存储, 它也可以借助OpenStack的Swift对外提供对象存储。 我的实验环境为Fedora18,其他环境在命令格式上可能略有不同: 1.安装依赖包 yum install glusterfs glusterfs-server glusterfs-fuse glusterfs-swift glusterfs-swift-account glusterfs-swift-container glusterfs-swift-object glusterfs-swift-proxy glusterfs-swift-plugi n 新版F19…

2013-11-27 16:14 · glusterfs · 评论(2)

qemu-kvm使用gluster协议

为了提高以glusterfs做为存储的 虚拟机的IO性能, Bharata B Rao在qemu-kvm中开发了gluster协议,主要就是让qemu-kvm通过glustefs-api绕过fuse直接访问文件,因为fuse被认为带来了性能损耗。 目前支持gluster协议的qemu-kvm版本是1.3.1以上,还没有方便使用的rpm包,所以我们直接从源码编译安装。 # git clone git://git.kernel.org/pub/scm/virt/kvm/qemu-kvm.git # cd qemu-kvm # ./configure 这时,如果已经安装了glusterfs, Gl…

2013-03-29 10:12 · glusterfs · 评论(0)

Glusterfs社区开发流程

Glusterfs开源社区使用 Git + Gerrit + Jenkins的开发流程。 Register Sign up for an account at http://review.gluster.org by clicking 'Register' on the right-hand top. You can use your gmail login as the openID identity. 首先需要去 http://review.gluster.org 注册一个账号,你需要有gmail账号或者其他OpenID账号来注册和登陆。 SSH keys Provide your SS…

2013-03-21 14:36 · glusterfs · 评论(0)

Glusterfs扩展属性

英文原文: http://hekafs.org/index.php/2011/04/glusterfs-extended-attributes/ 天马行空的意译,对正确性负责,不一定全和准确。 扩展属性是现代文件系统普遍支持,而又不容易被用户发现的特性。 Glusterfs中DHT,AFT, stripe都广泛使用了扩展属性即xattr。 xattr是一个key-value结构, 包括一个字符串key, 和一个二进制的value。我们有get/set/list xattr方法来操作它们。 在glusterfs中广泛使用了这样一个小伎俩: 当set/get xattr的时候,会触发gluste…

2013-03-06 12:27 · glusterfs · 评论(0)

图说DHT

dht-diskusage.c 它包含dht中关于磁盘空间的获取与控制相关函数。 图片中箭头代表数据流,其他是调用流。 图片中的核心数据是conf->du_stats, 图片左半部分的函数负责获取数据存入du_stats结构体,而右半部分函数使用du_stats判断subvol是否可以再存放文件。 dht-rename.c 它包含dht层对文件/文件夹进行rename(mv)操作 图中,当is dir = yes的时候,dht先对真正存放dir的client请求rename操作,操作成功后,再对其他client发送rename请求。 当dir=no, 即为文件的时候, 操作相当复杂,取决于s…

2013-02-28 14:22 · glusterfs · 评论(0)

call_stack 与 call_frame

call_stack由一个或多个call_frame组成。 Each call_frame corresponds to a call to a subroutine which has not yet terminated with a return. For example, if a subroutine named DrawLine is currently running, having been called by a subroutine DrawSquare , the top part of the call stack might be laid out like thi…

2013-02-28 10:04 · glusterfs · 评论(0)

使用glusterfs API

如果是通过rpm安装的glusterfs 在执行 glusterfs/api/example/gfapi.py 之前,需要执行 ln -s /usr/lib64/libglusterfs.so.0 /usr/lib64/libglusterfs.so ln -s /usr/lib64/libgfapi.so.0 /usr/lib64/libgfapi.so ln -s /usr/lib64/libgfxdr.so.0 /usr/lib64/libgfxdr.so 运行:python gfapi.py abc /mnt PASS: wrote 5 bytes PASS: read 'fubar…

2013-02-21 10:43 · glusterfs · 评论(0)

Glusterfs吞吐量性能测试

我在 这里 介绍了如何用iozone来测试glusterfs性能。 下面贴上测试结果,并做简单分析。 测试环境: Glusterfs版本 Release3.4 GB级网卡, 即千兆网 测试场景1: 一个节点,使用本地brick,本地挂载测试: Glusterfs的读写性能和Native的差不多,都在200Mb/s(读) 150Mb/s(写) 。 可见此时Fuse层对性能的影响几乎为0, 另外使用perfermance xlator基本没有提高性能。 测试场景2 : 一个节点, 远端brick: 这时网络成为瓶颈,千兆网的理论极限速度是125Mb/s, 实际scp拷贝文件在50Mb/s左右。 …

2013-01-10 13:55 · glusterfs · 评论(0)

glusterd中的状态机浅析

当RPC请求到达Glusterd守护进程后, 它会根据rpcsvc_actor_t gd_svc_cli_actors[] 数组来选择相应的处理函数。 一般函数名为 glusterd_handle_XXX 。 这类函数一般负责从xdr中提取出请求数据,比如卷名,主机名等等。 然后调用glusterd_op_begin 或者其他函数 向请求队列里面注入事件(inject event)。 glusterd有两个状态机(state machine): friend sm 和 operation sm , friend sm负责处理peer之间的事件 operation sm负责处理自身的事件 它们…

2012-12-20 13:14 · glusterfs · 评论(0)

Gluster术语表

接触新的东西的时候,缩写/术语啥的最头疼了。下面我总结了一些glusterfs的术语。 Xlator=translator: glusterfs模块的代名词 Brick :存储目录是Glusterfs的基本存储单元,由可信存储池中服务器上对外输出的目录表示。存储目录的格式由服务器和目录的绝对路径构成,具体如下:SERVER:EXPORT.例如:myhostname:/exports/myexportdir/ Volume :卷是存储目录的逻辑组合。大部分gluster管理操作是在卷上进行的。 Metadata:元数据关于数据的数据,用于描述文件、目录等的相关信息。 FUSE=Filesyst…

2012-12-19 16:31 · glusterfs · 评论(0)

iozone测试glusterfs性能

iozone 是linux下的磁盘性能测试工具,编译完成后就一个bin文件,用起来也很方便。 ./iozone -a -n 1g -g 2g -i 0 -i 1 -i 2 -i 3 -i 7 -f /mnt/iozone -Rb no-rh.xls -a 表示自动测试 -n , -g 表示最小和最大的文件大小 -i 代表测试项目 Used to specify which tests to run. (0=write/rewrite, 1=read/re-read, 2=random-read/write 3=Read-backwards, 4=Re-write-record, 5=stri…

2012-11-27 11:39 · glusterfs · 评论(0)

inode详解

inode是glusterfs中重要的数据结构之一, glusterfs用它来表示文件系统中的inode,但二者 不是 等价的。 inode数据结构 先粗略看下inode数据结构定义,对它有个整体印象 typedef struct _inode inode_t; struct _inode { inode_table_t *table; /* the table this inode belongs to */ uuid_t gfid; gf_lock_t lock; uint64_t nlookup; uint32_t ref; /* reference count on this ino…

2012-11-23 16:38 · glusterfs · 评论(0)

epoll与event_pool

epoll is a scalable I/O event notification . 它在内核2.5.44首次引入, 用来取代POSIX select和poll系统调用。 说到select和poll,也就是IO多路转接,在APUE 14.5节有详细介绍: 转自http://blog.csdn.net/delphiwcdj/article/details/8827659 ------------------------------------------------ 当从一个描述符读,然后又写到另一个描述符时,可以在下列形式的循环中使用阻塞I/O: 但是如果需要从多个描述符读,上面的方法是…

2012-11-07 14:56 · glusterfs · 评论(0)

CircleBuffer@glusterfs

CircleBuffer 是逻辑上呈环形的缓冲区 。 当缓冲区满了的时候可以让新的数据覆盖最旧的数据。 Glusterfs使用CircleBuffer来存储Afr的自修复日志。 CircleBuffer在 libglusterfs/src/circ-buff.c 中定义: 下面介绍下其关键函数 __cb_add_entry_buffer (buffer_t *buffer, void *item) 该函数负责添加一个buffer到环中: //当环满了时候 if (buffer->used_len == buffer->size_buffer) { //w_index始终指向下一个写的位置 /…

2012-11-05 17:22 · glusterfs · 评论(0)

如何查看brick上文件扩展属性

在brick目录(不是volume挂载目录)执行: getfattr -d -m ".*" -R .

2012-10-25 16:25 · glusterfs · 评论(0)