精彩博客

PGConf.Asia2021亚洲大会最新前瞻,有哪些值得关注的亮点?

活动报名地址:https://www.oschina.net/event/2324376 PostgreSQL亚洲技术大会-PGConf.Asia,时隔一年,重装回归。 这一年,PostgreSQL在中国、亚洲乃至全球,正以前所未有的速度向前发展。我们见证了全球数据库市场的行业变革,目睹了一批技术领袖的崛起,同时亲历了数百家生态企业创新成长。 大会亮点 今年大会线上线下结合,全程云端免费参与,前沿数据干货、最新产品解密、大咖互动提问,足不出户让您尽情体验! 全球专家,...

2021/11/12 19:19
4.5K
0
PostgreSQL数据库导入大量数据时如何优化

在使用PostgreSQL的时候,我们某些时候会往库里插入大量数据,例如,导入测试数据,导入业务数据等等。本篇文章介绍了在导入大量数据时的一些可供选择的优化手段。可以结合自己的情况进行选择。 一、关闭自动提交 关闭自动提交,并且只在每次(数据拷贝)结束的时候做一次提交。 如果允许每个插入都独立地提交,那么PostgreSQL会为所增加的每行记录做大量的处理。而且在一个事务里完成所有插入的动作的最大的好处就是,如果有一条...

2022/08/23 16:31
3.4K
0
90 后,辞职创业,说要卷死云数据库

Created in the name of FOSS. 被访者:冯若航( Pigsty 创始人) 编辑:lola 出品:OSCHINA 开源中国 冯若航最近很忙,6 月一场创业营路演下来,他一次性加了两三百个投资人。 不过,这也是他“自找”的。 此前,他是一名 PostgreSQL DBA,为了减少自己的工作量,写了一个开源软件 —— Pigsty 帮自己干活,日子越发好过了起来。明明可以“摸鱼”度日,冯若航却非要选择出来全职创业。 “创业这种事儿吧,一般人一辈子也就是一...

2022/07/03 11:34
3.4W
13
PostgreSQL 15:一些新特性

PostgreSQL 15 版本正在开发中,不远的将来就会与大家见面,一起来看看未来的一些新功能吧! 1. 删除public 模式的创建权限 直到今天,使用 PostgreSQL 14,每个人都可以默认写入public模式。使用 PostgreSQL 15,这将受到限制。public模式现在由“pg_database_owner”拥有。让我们做一个简短的测试。 postgres=# create user test; CREATE ROLE postgres=# \du                             ...

2022/04/25 15:53
9.4K
0
PostgreSQL hash-base sort-Merge 与 索引 (5)

文章转载自公众号:AustinDatabases 这是这个系列的第五期,本期到了SQL 执行计划中经常会出现的两个熟悉的面庞, hash-base sort-Merge ,当然还有nested loops ,顺便这期还的说说索引,其中包含b-tree 索引以及bitmaps 数据结构,所以这期东西是异常混乱的。跟好了,别掉队哦 首先还是从我们熟悉的 b-tree 说起,这个数据结构组成的方式是每种数据库都支持的快速查找数据的存储结构,并为之在他的基础上建立的算法,这样的组合...

2022/02/21 17:34
3.5K
0
《PostgreSQL 开发指南》第 08 篇 备份与恢复

文章转自公众号:SQL编程思想 基本概念 服务器系统错误、硬件故障或者人为失误都可能导致数据的丢失或损坏。因此,备份和恢复对于数据库的高可用性至关重要。数据库管理员应该根据业务的需求制定合适的备份策略,并提前演练各种故障情况下的恢复过程,做到有备无患。 在升级 PostreSQL 版本之前,通常也需要先进行数据库的备份。另外,备份也可以用于主从复制结构中的从节点初始化。 备份(backup),通过某种方式(物理复制或者...

2022/02/23 17:57
3.8K
0
PostgreSQL 15 逻辑复制模式中所有的表

翻译:魏 波 中国PG分会培训认证执行总监、资深数据库工程师,十多年的数据库运维管理及培训经验,掌握PostgreSQL架构部署、性能优化等,致力于推动PostgreSQL在中国的发展。 作者:维涅什瓦兰 C(Vigneshwaran C) 2022 年 2 月 10 日 在这篇文章中,我想讨论富士通 OSS 团队与 PostgreSQL 开源社区合作为即将推出的 PostgreSQL 15 添加的新功能,以实现模式中所有表的逻辑复制。 背景 PostgreSQL 14 支持数据库中特定表或所有...

2022/02/18 17:33
3.6K
0
为什么我喜欢 PostgreSQL - 基础架构工程师的观点

译者:魏 波 中国PG分会培训认证执行总监、资深数据库工程师,十多年的数据库运维管理及培训经验,掌握PostgreSQL架构部署、性能优化等,致力于推动PostgreSQL在中国的发展。 作者:沙扬·慕克吉(Shayon Mukherjee) 我是一名具有产品和基础设施工程经验的软件工程师。我喜欢构建和扩展以软件为主导的基础设施。我感兴趣的一些领域(没有特定的顺序或类别):分布式系统、站点可靠性、事件管理、运行、Gulab Jamun和Biryani。 ...

2022/02/10 17:26
8.6K
1
PGconf.Asia 2021 主题分享:PostgreSQL 空闲空间管理

了解更多Greenplum相关内容,欢迎访问Greenplum中文社区网站 在2021年12月14-17日举行的PostgresConf.CN&PGConf.Asia 2021大会上,来自Greenplum原厂的VMware研发工程师王晓冉发表了《PostgreSQL 空闲空间管理》主题演讲。在演讲中,王晓冉结合PostgreSQL存储引擎,分析了FSM的实现机制,并结合源代码,分析了FSM代码中主要数据结构,存储、并发及recovery的实现。 在大会上,王晓冉将整个演讲内容分为了四个部分进行讲解,分别...

2022/01/21 17:30
478
0
PostgreSQL集群管理(一)——repmgr

作者:徐浩 近10年PostgreSQL/MySQL/Oracle/数据库乙方运维经验;美创科技运维负责人、资深DBA、资深架构师;中国开源软件推进联盟中国PG分会认证讲师;美创科技PGCA/PGCE/PGCM认证培训讲师;Oracle OCM、Oracle OCP、MySQL OCP、认证培训讲师;书籍《DBA攻坚指南:左手Oracle,右手MySQL》作者。 repmgr是一个开源工具套件,用于管理 PostgreSQL 服务器集群中的复制和故障转移。它通过设置备用服务器、监控复制和执行管理任务(...

2022/02/09 18:11
4.9K
0
PostgreSQL 实现定时任务的四种方法

文章转载自公众号:SQL编程思想 数据库定时任务可以用于实现定期的备份、统计信息采集、数据汇总、数据清理与优化等。PostgreSQL 没有提供类似 Oracle、MySQL 以及 Microsoft SQL Sever 的内置任务调度功能,因此本文给大家介绍一下 PostgreSQL 数据库中实现定时任务的 4 种方法。 方法一:操作系统定时任务 Linux 定时任务(crontab)或者 Windows 任务计划程序(Task Scheduler)为我们提供了一个实现定时任务传统的方法。以 ...

2022/01/25 17:45
1.7W
0
湖仓一体2.0:数据分析的终局之选

文章转载自公众号:韩锋频道 下图是一张非常经典的数据分析技术演进图,从中可一窥整体发展历程。本文将按时间顺序盘点下各阶段产品及技术特点,并预测下未来发展方向。 1. 简单可用阶段:数据库(DataBase) 早在1980年代初中期,是没有专门面向数据分析场景的产品。当时还是以面向事务交易场景为主,数据分析仅作为附带提供的场景。主要是面对管理层提供固定报表,满足宏观管理决策。作为底层数据库,通过标准SQL提供数据分析...

2022/01/19 17:29
4.2K
0
【干货分享】浅析VACUUM清理

作者:崔鹏 拥有十年以上的PostgreSQL、MYSQL、Oracle等技术支持和服务经验,涉及银行、公共安全、专网通信等行业。适配过多种主流数据库,对于信创国产化、等保适配、MYSQL迁移PostgreSQL等有丰富的实战经验。主导开发使用警用数字集群标准的多产品PG HA解决方案。 VACUUM功能概述: PostgreSQL有一个可选但是被推荐的特性autovacuum(从8.1版本加入),它的目的是自动执行VACUUM和ANALYZE 命令,回收被表示为删除状态记录的空间...

2022/01/14 17:15
2.3K
0
基于知识图谱的PostgreSQL深度分析

本文是老白在1月16日PG中国大会上的演讲内容,全文有4500多字,阅读时间可能超过10分钟,请慎重阅读。 各位PG Funs下午好,我是老白。在疫情下2021 PG大会能够顺利进行十分不易。看到第二天下午的四点多钟,会场的上座率这么高,看得出PGer的热情十分高涨。可能认识老白的人会觉得奇怪,你不是混Oracle圈子的吗?怎么到PG大会来演讲了。这也充分说明了PG社区的红火,越来越多的Oracle DBA开始参与PG社区了。开源社区中对MYSQL和...

2021/12/15 11:31
4.9K
2
使用OGG for PG微服务快速双向同步RDS数据库(双主)

类似文章 OGG有传统的经典架构,也有最新的微服务,2个都可以远程捕获和应用数据,对数据库服务器是0侵入,而传统的经典架构是纯命令行模式,最新的微服务架构是图形化界面操作,几乎所有操作都可以在界面进行。相关文章可以参考: 使用OGG for MySQL微服务快速双向同步RDS数据库:https://www.xmmup.com/shiyongoggweifuwukuaisushuangxiangtongburdsshujuku.html OGG用于跨云RDS for MySQL之间配置双主实时同步–OGG远程捕获和...

2021/12/07 10:53
1.4K
0
PostgreSQL体系结构概述

PostgreSQL的物理架构由 共享内存、一系列后台进程和数据文件组成 一、共享内存 共享内存是服务器为数据库缓存和事务日志缓存预留的内存缓存空间 Shared Memory=Shared Buffer + WAL Buffer Shared Buffer的目的是减少磁盘IO ,为了达到这个目的,必须满足以下规则: 当需要快速访问非常大的缓存时(10G、100G等) 如果有很多用户同时使用缓存,需要将内容尽量缩小 频繁访问的磁盘块必须长期放在缓存中 WAL Buffer是用来 ...

2021/11/27 10:00
1.2K
1
PostgreSQL 从HOT到PHOT

1、HOT概述 PostgreSQL中,由于其多版本的特性,当我们进行数据更新时,实际上并不是直接修改元数据,而是通过新插入一行数据来进行间接的更新。而当表上存在索引时,由于新插入了数据,那么索引必然也需要同步进行更新,这在索引较多的情况下,对于更新的性能影响必然很大。 为了解决这一问题,pg从8.3版本开始就引入了HOT(Heap Only Tuple)机制。其原理大致为,当更新的不是索引字段时,我们通过将旧元组指向新元组,而原先...

2021/11/22 09:40
924
0
PostgreSQL分区表使用方法及技巧整理

发现公司业务在时序类、流水类业务场景越来越多,对数据治理的需求越来越大,这里整理介绍写PostgreSQL分区表的应用方法。 一、分区表的作用 1.将数据按指定的方法打算到子分区,提高SQL性能。 2.解决时序类、流水类业务大表在进行老旧数据清理时delete引起的性能及磁盘空间碎片问题。 3.利用子分区卸载、重新挂载功能,对数据进行暂时性的隐藏、维护。 4.数据归档治理业务场景:定期增加子分区、定期删除不需要的子分区来对数据...

2021/11/22 09:51
1W
1
PG优化-需求实现-大表group by优化

一、前言 今天抽空聊一个和成本优化相关的话题。 说到成本优化,大家觉得优化多少算不错呢? 10%? 20%? 成本优化的空间到底有多大呢? 今天分享的案例,将从数据库角度出发,介绍如何将业务场景需求的性能提高上百倍以上,而性能优化的同义词,就是成本优化。 通常,当一个数据库系统出现性能问题,为保障业务体验及服务质量,处理方法可以归纳为两类: 1.资源扩容,即为业务请求提供更多资源。 2.性能优化,即降低单次业务请求...

2021/11/15 11:30
1W
0
高可用环境下的Patroni & etcd

Crunchy Data的产品经常包括高可用。主要是通过Patroni和etcd这两个工具来进行管理的。今天我要探索一下它们是如何工作的。Patroni依赖于etcd 集群的正确操作来决定PostgreSQL做什么。当这两个部分之间的通信中断时,会导致环境不稳定,导致故障转移、集群重新启动,甚至主数据库丢失。为了充分理解这种关系的重要性,我们需要了解这些部分如何工作的一些核心概念。首先,我们将简要概述 HA 系统中涉及的组件及其在环境中的角色...

2021/11/15 11:34
755
0

没有更多内容

加载失败,请刷新页面

如何做架构设计? | 京东云技术团队

也许您对软件设计存在一些疑惑,或者缺乏明确思路,那么本文将非常适合您。 1、设计很重要 我们可以看一下周边的事物,那些好的东西,他们并不会天然存在,都是被设计出来的,因此设计就是创...

前天 10:02
8K
1
得物App万米高空WiFi拦截记

0.前情摘要 在一次飞行途中,我司客户遭遇到了得物App在飞机上的WiFi网络访问异常的问题。这让我们意识到在特定场景下,用户可能面临无法使用得物App的困扰。经过SRE团队与无线团队、网络团队...

06/01 19:17
1.5W
2
编码器-解码器 | 基于 Transformers 的编码器-解码器模型

基于 transformer 的编码器-解码器模型是 表征学习 和 模型架构 这两个领域多年研究成果的结晶。本文简要介绍了神经编码器-解码器模型的历史,更多背景知识,建议读者阅读由 Sebastion Rude...

06/01 18:00
6.2K
1
如何基于G6进行双树流转绘制? | 京东云技术团队

1. 背景 业务背景:CRM系统随着各业务条线对线索精细化分配的诉求逐渐增加,各个条线的流向规则会越来越复杂,各个条线甚至整个CRM的线索流转规则急需一种树形的可视化的图来表达。 技术背景...

06/01 09:54
5.2K
1
redis.conf 7.0 配置和原理全解,生产王者必备

5.5 redis.conf 配置详解 我是 Redis, 当程序员用指令 ./redis-server /path/to/redis.conf 把我启动的时候,第一个参数必须是redis.conf 文件的路径。 这个文件很重要,就好像是你们的 DN...

05/30 16:13
1.4W
3
大语言模型技术原理

在今天这个时代,人们的工作和生活已经离不开数据访问,而几乎所有平台背后的数据存储和查询都离不开数据库。SQL作为一种数据库的查询和处理语言历史悠久,最早由IBM于上世纪70年代初研究关系...

05/30 11:25
9.6K
4
QUIC 协议:特性、应用场景及其对物联网/车联网的影响

什么是 QUIC 协议 QUIC(Quick UDP Internet Connections)是由谷歌公司开发的一种基于用户数据报协议(UDP)的传输层协议,旨在提高网络连接的速度和可靠性,以取代当前互联网基础设施中广泛...

05/27 22:14
9K
2
Nodejs 应用编译构建提速建议 | 京东云技术团队

编译构建的整体过程 拉取编译镜像 拉取缓存镜像 拉取项目源码 挂载缓存目录 执行编译命令(用户自定义) 持久化缓存 上传编译镜像 为什么在本地构建就快, 但编译机上很慢 在编辑机上每次的构建...

05/26 09:36
9.9K
0
Flutter热更新技术探索 | 京东云技术团队

一,需求背景: APP发布到市场后,难免会遇到严重的BUG阻碍用户使用,因此有在不发布新版本APP的情况下使用热更新技术立即修复BUG需求。原生APP(例如:Android & IOS)的热更新需求已经比较...

05/26 09:30
1W
1
得物前端巡检平台的建设和应用

1.背景 我们所在的效能团队,对这个需求最原始的来源是在一次“小项目”的评审中,增长的业务同学提出来的,目的在于保障前端页面稳定性的同时减少大量测试人力的回归成本。页面稳定性提升,...

05/25 18:39
1.2W
1
Iframe在Vue中的状态保持技术 | 京东云技术团队

引言 Iframe是一个历史悠久的HTML元素,根据MDN WEB DOCS官方介绍,Iframe定义为HTML内联框架元素,表示嵌套的Browsing Context,它能够将另一个HTML页面嵌入到当前页面中。Iframe可以廉价实...

05/25 10:22
7.8K
0
Kafka实时数据即席查询应用与实践

作者:vivo 互联网搜索团队- Deng Jie Kafka中的实时数据是以Topic的概念进行分类存储,而Topic的数据是有一定时效性的,比如保存24小时、36小时、48小时等。而在定位一些实时数据的Case时,...

05/24 20:59
1.2W
0
【实践篇】领域驱动设计:DDD工程参考架构 | 京东云技术团队

背景 为什么要制定参考工程架构 不同团队落地DDD所采取的应用架构风格可能不同,并没有统一的、标准的DDD工程架构。有些团队可能遵循经典的DDD四层架构,或改进的DDD四层架构,有些团队可能综...

05/22 10:10
1.5W
1
得物社区亿级ES数据搜索性能调优实践

1.背景 2020年以来内容标注结果搜索就是社区中后台业务的核心高频使用场景之一,为了支撑复杂的后台搜索,我们将社区内容的关键信息额外存了一份到Elasticsearch中作为二级索引使用。随着标注...

05/19 18:48
1.8W
1
Pose泰裤辣! 一键提取姿态生成新图像

摘要:从图像提取人体姿态,用姿态信息控制生成具有相同姿态的新图像。 本文分享自华为云社区《Pose泰裤辣! 一键提取姿态生成新图像》,作者: Emma_Liu 。 人体姿态骨架生成图像 ControlNet...

05/19 15:39
1.2W
1
应用现代化中的弹性伸缩

作者:马伟,青云科技容器顾问,云原生爱好者,目前专注于云原生技术,云原生领域技术栈涉及 Kubernetes、KubeSphere、KubeKey 等。 2019 年,我在给很多企业部署虚拟化,介绍虚拟网络和虚拟...

05/18 14:19
6.8K
0
降低 Spark 计算成本 50.18 %,使用 Kyligence 湖仓引擎构建云原生大数据底座,为计算提速 2x

2023 中国开源未来发展峰会于 5 月 13 日成功举办。在大会开源原生商业分论坛,Kyligence 解决方案架构高级总监张小龙发表《云原生大数据底座演进 》主题演讲,向与会嘉宾介绍了他对开源发展...

05/18 10:55
1.2W
1
深入浅出 OkHttp 源码解析及应用实践

作者:vivo 互联网服务器团队- Tie Qinrui OkHttp 在 Java 和 Android 世界中被广泛使用,深入学习源代码有助于掌握软件特性和提高编程水平。 本文首先从源代码入手简要分析了一个请求发起过...

05/17 20:59
1.3W
2
故障分析 | 一条本该记录到慢日志的 SQL 是如何被漏掉的

作者:吴斯亮 某金融行业 DBA,数据库技术爱好者。 本文来源:原创投稿 * 爱可生开源社区出品,原创内容未经授权不得随意使用,转载请联系小编并注明来源。 背景 生产环境中 select count(*...

05/16 16:30
1.2W
2
云原生背景下如何配置 JVM 内存

背景 前段时间业务研发反馈说是他的应用内存使用率很高,导致频繁的重启,让我排查下是怎么回事; 在这之前我也没怎么在意过这个问题,正好这次排查分析的过程做一个记录。 首先我查看了监控...

05/15 10:13
1W
0

没有更多内容

加载失败,请刷新页面

返回顶部
顶部