2009系统架构师大会听课笔记 转来的
[url]http://smzz.org/node/45[/url]2009系统架构师大会听课笔记
周末参加了2009系统架构师大会，期间对自己感兴趣的话题做了部分笔记，现摘录如下：
大型可扩展系统架构-新浪网动态应用平台介绍
童剑 新浪高级系统架构师，研发中心平台部总监
- 资源监控
- HA Xen虚拟化
- 数据库集群
2006年点击量3亿/天
实时访问统计，考虑恶意访问
代码分发、数据库集群、软件仓库
高可用、低成本、可扩展
- 无单点故障
- 基于开源软件
- 各部门共享、对外透明
统一运行环境
- 统一配置
简单映像体系
(程序员看来)一个数据库、一个前台、一个缓存
架构图
|---> Cache ----->|
负载平衡 --| \|/ | VFS
|---> App ------->|
用到的软件
- LAMP
- Memecached
- Squid-Cache
- Heartbeat + DRBD
- Xen
- Cfengine
- Bind DNS + Mon
- Haproxy
一些经验
- 借鉴成功经验
如LiveJournal(Memcached、MogileFS)、Yahoo、Google、FaceBook等
- 使用成熟软件
重复造的轮子维护困难、不便于交接
- 底层封装和隔离
可扩展
- 简单 = 高效
够用、分阶段完善、简单(结构设计+实现方法) = 高效(开发过程 + 故障排除)
标准化配置
- 好处
开发生产分离、配置文件
- 运行环境配置
软件包、版本、路径、用户等
记录请求时长、MySQL慢日志
常用配置统一
- 其他...
约定和限制
- 基本约定
读写分离、缓存尽量使用Memcache、不用绝对路径、程序目录+x-w、数据库目录+w-x、不使用长连接、耗时查询小于1次/分钟
- 必要配置
涉及PHP安全方面的配置等
监控报警
- 详细感知
- 自动控制和修复
- 日志统计分析
- 数据监控
* 可用性(ping/port/disk usage)
* 容量(带宽、磁盘、CPU)
* 质量(响应速度、成功率)
* 异常(进程、访问量)
- 主动处理尝试
* 拒绝恶意IP
* 暂停异常服务
* kill异常进程
- 报警
* 仪表板
* SMS
* IM
性能
- 高可用
- 开发语言的选择
如果对CPU等资源占用不大，可选择解释性脚本语言(C虽然高效，但是从头再来毕竟耗费人力物力)
- 选择合适的服务器软件
高并发高IO时可选择Nginx/lighttpd
- 软硬件因素
- 网络性能
应熟悉常见现象
- 性能分析
对症下药才能治本
容量规划
- 负载 < CPU的核数
- 平常占用资源的40%，峰值80%
- 60%扩容
- 20% 保留给系统管理和监控使用
提问：如果多个机房中的某个机房的服务器出现问题，怎么做到切换服务器不影响访问？
回到：在DNS里设置某个域名的相应时间，所有Name Server都应该遵循该规范
Facebook最佳实践：从百万访问到千万并发访问
吴静涛：F5中国技术总监，高级架构师
- 柔性可用
- 客户诊断
- 降级服务
故障梯度服务（以qzone为例）
- 100% 最优
- 80% 取消增值服务
- 50% 基础功能
- 20% 核心功能
- 5% 公告
缓存、性能
- 用户端Cache
- CDN
- 核心动态数据
- 提升动态数据能力
TTC : 腾讯内存Cache集群
TTC1、TTC2 ----> DB
TTC1、TTC2 --> TTC0 ---> DB
- UGC内容放入存储平台
- 按需加载
- 检测平台、持续优化
其他
- 产品削锋填谷
以前一天只允许在0点开始买卖奴隶，造成该时段访问压力特别大，经产品策划协商，
更改策略：一天内0 - 9点均可开始买卖努力，但早上6点前买卖奴隶收入减半。。从
而通过策略将峰值下降很多
- 集群、轻量、标准
GSLB + LVS + Qzhttp
- 轻量内存
TTC + MySQL
- 逻辑?
S++ ?
- 海量数据存储
TFS、TDB
- 削锋填谷
* 明星 - 低
* 金牛 - 合理
* 瘦狗 - 高
其他：采集用户打开时间、多写少读（可在内存里积累一定的程度再去写）
电子支付系统的分布式服务架构与开放架构研究(PPT)
程立：支付宝（中国）网络技术有限公司 首席架构师
- SOA
性能、响应时间、指标
Async异步调用、future异步调用
- 容量
* 估算新业务上线对容量的需求
* 服务吞吐量优化
- 服务吞吐量
- 伸缩公式
- 伸缩上限
- 单个资源吞吐量上限(串行处理)
* 解决
- 充分扩容
- 平衡扩容
- 消除单点瓶颈
* 资源使用分析、SQL执行次数
* 单点故障
- 并发请求
- 重复请求
- 超量请求
- 请求挤压
- 其他
* 局部配额、令牌
* 幂等控制、操作日志
* 并发控制
- 经典方法（事务）
- 乐观方法(减少事务使用时间)
- 分布锁(生命周期、防止死锁)
* 请求丢弃
过期就丢弃相应的请求
* 时间控制
整体服务期限
* 分布事务
- TCC模式
Try - Confirm -Cancle
- 补偿模式
Do - 补偿
探寻架构设计中的第六感（新浪网)
李晓栋：新浪网研发中心架构部 技术经理
- QOS
- TCP/IP协议先天不足
- 管理心得
* 集中管理
* 监控报警
* 负载分析
* 服务配置
- 原则
* 高性能
* 高可靠性
* 高可管理性
- 流量快速分析
* MRTG、ARTU
* netflow、sflow、SNMP、Sniffer(pfring)
* payload、wireshark
- 平台使用方法
* tcpdump抓包
* 上传pcap包
* 选择分析条件
* 输出分析结果
- misc
* 交换机(prot-channel)
* LVS特殊单臂解决方案
* PK麻烦且变更不便
* 利用iptables获取TCP端口流量统计
* 网页挂马的JS?
淘宝开放平台架构设计与实践
岑文初: 淘宝网开放平台架构师
- 异步交互、通知
* 保持会话、支持异步(短信)
* 异步延时(大数据管理信息)
* 订阅关系维护、支持通知服务(系统间数据同步)
- 服务分流与隔离
二级域名(某API) --> 软负载(LVS、7层包、HA) --> 软负载 + 虚拟服务组(图)
上下文缓存
- 本地缓存、远程缓存
- 商业方面
* 流量收费(调用接口)
* 插件分成
高可用分布式数据库系统架构实践(Oracle\Mysql等数据库)
陈吉平：淘宝网技术总监、首席DBA、DBA Manager、Oracle ACE
- 分布式
分布式存储(TFS)、分布式Cache(Caire)
- 高可用之双机房架构
Data Guard + Redo mirror
- V3.0垂直扩展
用户、商品...
非核心数据使用MySQL
- V4.0 水平扩展 - 读写分离
- V4.0 水平扩展 - 水平拆分
* Scale Out
* 压力动态平衡
* 支持任何数据库
- Amazon、S3、EC2、Simple DB
- C1 读写分离
* 主库集中，读库水平分割
* 写操作、部分重要读操作回主库
* 读库故障可回主库
* APP -> TDDL
* 数据路由、数据复制
- C2 水平分割
* 16DB 1024张表，单表16亿条记录
* 避免无限制分表
* 没有主数据库
- 监控
* DB、Host
* SNMP ? => Agent??
Mysql数据库性能优化实战
叶金荣：搜狐游戏高级MySQL DBA
- 常用命令
* vmstats
vmstatus -s n 3
* iostats
* pidstat
* mpstats
* top
* sar
- 诊断方法
* mysql slow query
* show engine innodbstatus
* profiling
* mysql report
- 杂项
* 禁用swap
* micro slow补丁 可显示详细执行计划
* mysqlsla
* 数据库擅长的事情：存储数据 + 事务
* query cache可适当降低，可通过profiling查看，太大会引发新问题
* sending data值的设置
只查询需要的字段即可
* freeing items
* 关闭binlogs
* ssd 文件系统优化
* xfs文件系统存储单个大文件有优势
* 静态编译mysql速度也会提升
* DNS管理系统
* innodb buffer
* 5.0.77 higerreat版本
- 一些引擎
* MySIAM
* InnoDB
* TukoDB
* XtraDB
* Memcache for MySQL
* waffle Grid Project
- InnoDB Plugin 1.1
* 可快速创建索引
* 数据压缩
* 可在线设置是否单表使用空间
- misc
* OLTP/OLAP 应用类型
* COUNT(*)将进行全表扫描、InnoDB的表推荐使用COUNT(PK)
update:
页:
[1]