如何跨Oracle数据库实现表级别的实时同步

如何跨Oracle数据库实现表级别的实时同步,第1张

一 前言

这个问题是上一篇文章《Oracle跨数据库实现定时同步指定表中的数据》中所提问题的进一步延伸。考虑到对数据的实时性要求比较高,设置成定时同步,有点不妥,需要改善升级更改为实时同步。

下面介绍到的方式,严格意义上说,并没有实现实时同步。是通过Oracle数据库创建同义词+DBlink的方式,来建立远程映射。在查看数据时,直接去远程查询源库中的表。

而我一直关注的是如何进行同步数据,却没有考虑到可以建立映射。另外,还有一点就是需要交代,就是同步到目标数据库中的表,不进行增删改操作,只进行查询的操作,这也是可以使用同义词方式解决问题的关键。

这种解决思路的出现,多亏了在CSDN问答时,热心网友的回答,下面就是问题详情描述。

二 问题描述

有两个Oracle数据库,分别布置在不同的服务器上,系统均为windows2003;

这里暂且说成是一个主数据库和从数据库:

(1) 主数据库:oracle_A;

(2) 从数据库:oracle_B;

在oracle_A中有一个表table_A与oracle_B中的表table_B结构相同;

我是处在oracle_B,oracle_A数据库分配给我有一个访问oracle_A表table_A的用户,该用户只拥有查询的权限;

另外,需要说明的一点,就是在oracle_B处,只需对table_B表进行查询的操作,不进行其他增删改的操作。

场景介绍完了,我的问题的是,如何在oracle_A中表table_A发生变化时,实时更新同步到oracle_B的table_B中

我原来的处理方式:

通过建立远程连接DBLink+JOB定时任务+存储过程的方式,实现了定时同步更新,但不能做到实时同步。

三 采用同义词+DB_Link的方式结果步骤

之所以能够选择采用同义词的方式,处理这个问题。主要还是源于在问题描述中提到一个点,那就是我们只需要对同步后的表进行查询操作。这点是使用同义词方式的重要要素。

下面详细模拟一下整个实验测试的过程:

(1)首先在Oracle_A端创建一个对table_A只有查询功能的用户

<1> 创建用户

sqlplus /nolog

conn /as sysdba;

create user username identified by password;

<2> 查看所有的用户列表

用户创建完成后,查看用户是否创建成功

select from all_users;

<3>授予权限

为了能够保证能够登陆,必须赋予如下权限

--授予username用户创建session的权限,即登陆权限

grant create session to username;

--授予username用户使用表空间的权限

grant unlimited tablespace to username;

--oracle对权限管理比较严谨,普通用户之间也是默认不能互相访问的,需要互相授权

--如果scott用户要授权给username用户查看自己的test表的权限;

sqlplus scott/tiget@localhost:1521/orcl

--授予username用户查看指定的权限

grant select on test to username;

--撤销权限

基本语法同grant,关键字为revoke;

(2)验证用户是否可以成功登录,并进行访问授权的表

--使用sqlplus登录,并进行查询

sqlplus username/password@localhost:1521/orcl;

select from scotttest;

注意:查询表时,务必带上用户名,说明是哪个用户下的表。

(3)创建远程连接DB_Link

<1> 创建远程连接 db_link

create public database link db32 connect to tianzhi_test identified by "tianzhi_test" using '192168566:1521/ORCL'

<2> 测试远程连接是否成功

select from tianzhi_smartzh_item_news@db32;

(4)在Oracle_B端创建同义词

<1> 使用sqlplus登录自己的用户

sqlplus tianzhi_smart/tianzhi_smart@localhost:1521/orcl

<2> 创建同义词

create or replace public synonym TEST1130 for scottTEST@db32;

<3> 查询测试

select from TEST1130;

可以看到这与在Oracle_A源数据库中查到的table_A表中的数据一样

注意事项:

当远程查询的数据库中包含BLOB字段时,会报出如下错误

ORA-22992: 无法使用从远程表选择的 LOB 定位器

当出现这个错误的时候,那是因为跨库连接查询中的表中存在BLOB类型的字段,所以一定要注意,所有表中存在blob类型字段,

不能用 select from 连接的表

不能将blob类型的字段出现在脚本中。

如果这些blob类型的字段一定要导过来,可以先建立临时表再插入本地表,方法如下在pl/sql中执行

第一步 建临时表

create global temporary table foo ( X BLOB )

on commit delete rows;

第二步 插入本地表

insert into foo select blobcolumn from remoteTable@dl_remote ;

用同步软件不就搞定了,省的瞎折腾了啊

我现在用的Bestsync2011同步软件,我觉得还蛮好用的,速度比较快,日志功能很强大,反正如果同步有任何错误,你能查看到每个文件的同步状态。

for example: 你可以把软件安装在服务器上,建立1个任务,来将这两台服务器进行实时同步。

1 在主菜单里面点 编辑-->追加任务

文件夹1选择 服务器A需要同步的文件夹位置

文件夹2选择 服务器B需要同步的文件夹位置

方向为由文件夹2到文件夹1

然后选择 完成 按钮

在主菜单上,点选 开始 按钮, 这样, A与B上的文件就完全一致了。

2 在任务列表中,双击你刚刚建立的这个任务,然后会弹出属性对话框

翻到 “日程” 那页

勾选上 “文件一旦变化,立即同步”这个选项

最后点击 确定 按钮

这样,只要服务器A的指定文件夹一旦变化,就实时同步到服务器B了以此类推

他们新浪微博上要好多教程,你不清楚可以去看那上的手册。。。

是否可以解决您的问题?

同步两个SQLServer数据库

如何同步两个sqlserver数据库的内容程序代码可以有版本管理cvs进行同步管理,可是数据库同步就非常麻烦,只能自己改了一个后再去改另一个,如果忘记了更改另一个经常造成两个数据库的结构或内容上不一致各位有什么好的方法吗

一、分发与复制

用强制订阅实现数据库同步操作 大量和批量的数据可以用数据库的同步机制处理:

//

说明:

为方便操作,所有操作均在发布服务器(分发服务器)上操作,并使用推模式

在客户机器使用强制订阅方式。

二、测试通过

1:环境

服务器环境:

机器名称: zehuadb

操作系统:windows 2000 server

数据库版本:sql 2000 server 个人版

客户端

机器名称:zlp

操作系统:windows 2000 server

数据库版本:sql 2000 server 个人版

2:建用户帐号

在服务器端建立域用户帐号

我的电脑管理->本地用户和组->用户->建立

username:zlp

userpwd:zlp

3:重新启动服务器mssqlserver

我的电脑->控制面版->管理工具->服务->mssqlserver 服务

(更改为:域用户帐号,我们新建的zlp用户 \zlp,密码:zlp)

4:安装分发服务器

a:配置分发服务器

工具->复制->配置发布、订阅服务器和分发->下一步->下一步(所有的均采用默认配置)

b:配置发布服务器

工具->复制->创建和管理发布->选择要发布的数据库(sz)->下一步->快照发布->下一步->选择要发布的内容->下一步->下一步->下一步->完成

c:强制配置订阅服务器(推模式,拉模式与此雷同)

工具->复制->配置发布、订阅服务器和分发->订阅服务器->新建->sql server数据库->输入客户端服务器名称(zlp)->使用sql server 身份验证(sa,空密码)->确定->应用->确定

d:初始化订阅

复制监视器->发布服务器(zehuadb)->双击订阅->强制新建->下一步->选择启用的订阅服务器->zlp->下一步->下一步->下一步->下一步->完成

5:测试配置是否成功

复制监视器->发布衿zehuadb)->双击sz:sz->点状态->点立即运行代理程序

查看:

复制监视器->发布服务器(zehuadb)->sz:sz->选择zlp:sz(类型强制)->鼠标右键->启动同步处理

如果没有错误标志(红色叉),恭喜您配置成功

6:测试数据

在服务器执行:

选择一个表,执行如下sql: insert into wq_newsgroup_s select '测试成功',5

复制监视器->发布服务器(zehuadb)->sz:sz->快照->启动代理程序 ->zlp:sz(强制)->启动同步处理

去查看同步的 wq_newsgroup_s 是否插入了一条新的记录

测试完毕,通过。

7:修改数据库的同步时间,一般选择夜晚执行数据库同步处理

(具体操作略) :d

/

注意说明:

服务器一端不能以(local)进行数据的发布与分发,需要先删除注册,然后新建注册本地计算机名称

卸载方式:工具->复制->禁止发布->是在"zehuadb"上静止发布,卸载所有的数据库同步配置服务器

注意:发布服务器、分发服务器中的sqlserveragent服务必须启动

采用推模式: "d:\microsoft sql server\mssql\repldata\unc" 目录文件可以不设置共享

拉模式:则需要共享~!

/

少量数据库同步可以采用触发器实现,同步单表即可。

三、配置过程中可能出现的问题

在sql server 2000里设置和使用数据库复制之前,应先检查相关的几台sql server服务器下面几点是否满足:

1、mssqlserver和sqlserveragent服务是否是以域用户身份启动并运行的(\administrator用户也是可以的)

如果登录用的是本地系统帐户local,将不具备网络功能,会产生以下错误:

进程未能连接到distributor '@server name'

(如果您的服务器已经用了sql server全文检索服务, 请不要修改mssqlserver和sqlserveragent服务的local启动。

会照成全文检索服务不能用。请换另外一台机器来做sql server 2000里复制中的分发服务器。)

修改服务启动的登录用户,需要重新启动mssqlserver和sqlserveragent服务才能生效。

2、检查相关的几台sql server服务器是否改过名称(需要srvid=0的本地机器上srvname和datasource一样)

在查询分析器里执行:

use master

select srvid,srvname,datasource from sysservers

如果没有srvid=0或者srvid=0(也就是本机器)但srvname和datasource不一样, 需要按如下方法修改:

use master

go

-- 设置两个变量

declare @serverproperty_servername varchar(100),

@servername varchar(100)

-- 取得windows nt 服务器和与指定的 sql server 实例关联的实例信息

select @serverproperty_servername = convert(varchar(100), serverproperty('servername'))

-- 返回运行 microsoft sql server 的本地服务器名称

select @servername = convert(varchar(100), @@servername)

-- 显示获取的这两个参数

select @serverproperty_servername,@servername

--如果@serverproperty_servername和@servername不同(因为你改过计算机名字),再运行下面的

--删除错误的服务器名

exec sp_dropserver @server=@servername

--添加正确的服务器名

exec sp_addserver @server=@serverproperty_servername, @local='local'

修改这项参数,需要重新启动mssqlserver和sqlserveragent服务才能生效。

这样一来就不会在创建复制的过程中出现18482、18483错误了。

3、检查sql server企业管理器里面相关的几台sql server注册名是否和上面第二点里介绍的srvname一样

不能用ip地址的注册名。

(我们可以删掉ip地址的注册,新建以sql server管理员级别的用户注册的服务器名)

这样一来就不会在创建复制的过程中出现14010、20084、18456、18482、18483错误了。

4、检查相关的几台sql server服务器网络是否能够正常访问

如果ping主机ip地址可以,但ping主机名不通的时候,需要在

winnt\system32\drivers\etc\hosts (win2000)

windows\system32\drivers\etc\hosts (win2003)

文件里写入数据库服务器ip地址和主机名的对应关系。

例如:

127001 localhost

192168035 oracledb oracledb

192168065 fengyu02 fengyu02

2028410193 bj_db bj_db

或者在sql server客户端网络实用工具里建立别名,例如:

5、系统需要的扩展存储过程是否存在(如果不存在,需要恢复):

sp_addextendedproc 'xp_regenumvalues',@dllname ='xpstardll'

go

sp_addextendedproc 'xp_regdeletevalue',@dllname ='xpstardll'

go

sp_addextendedproc 'xp_regdeletekey',@dllname ='xpstardll'

go

sp_addextendedproc xp_cmdshell ,@dllname ='xplog70dll'

接下来就可以用sql server企业管理器里[复制]-> 右键选择 ->[配置发布、订阅服务器和分发]的图形界面来配置数据库复制了。

下面是按顺序列出配置复制的步骤:

1、建立发布和分发服务器

[欢迎使用配置发布和分发向导]->[选择分发服务器]->[使"@servername"成为它自己的分发服务器,sql server将创建分发数据库和日志]

->[制定快照文件夹]-> [自定义配置] -> [否,使用下列的默认配置] -> [完成]

上述步骤完成后, 会在当前"@servername" sql server数据库里建立了一个distribion库和 一个distributor_admin管理员级别的用户(我们可以任意修改密码)。

服务器上新增加了四个作业:

[ 代理程序历史记录清除: distribution ]

[ 分发清除: distribution ]

[ 复制代理程序检查 ]

[ 重新初始化存在数据验证失败的订阅 ]

sql server企业管理器里多了一个复制监视器, 当前的这台机器就可以发布、分发、订阅了。

我们再次在sql server企业管理器里[复制]-> 右键选择 ->[配置发布、订阅服务器和分发]

我们可以在 [发布服务器和分发服务器的属性] 窗口-> [发布服务器] -> [新增] -> [确定] -> [发布数据库] -> [事务]/[合并] -> [确定] -> [订阅服务器] -> [新增] -> [确定]

把网络上的其它sql server服务器添加成为发布或者订阅服务器

新增一台发布服务器的选项:

我这里新建立的jin001发布服务器是用管理员级别的数据库用户test连接的,

到发布服务器的管理链接要输入密码的可选框, 默认的是选中的,

在新建的jin001发布服务器上建立和分发服务器fengyu/fengyu的链接的时需要输入distributor_admin用户的密码。到发布服务器的管理链接要输入密码的可选框,也可以不选,也就是不需要密码来建立发布到分发服务器的链接(这当然欠缺安全,在测试环境下可以使用)。

2、新建立的网络上另一台发布服务器(例如jin001)选择分发服务器

[欢迎使用配置发布和分发向导]->[选择分发服务器]

-> 使用下列服务器(选定的服务器必须已配置为分发服务器) -> [选定服务器](例如fengyu/fengyu)

-> [下一步] -> [输入分发服务器(例如fengyu/fengyu)的distributor_admin用户的密码两次]

-> [下一步] -> [自定义配置] -> [否,使用下列的默认配置]

-> [下一步] -> [完成] -> [确定]

建立一个数据库复制发布的过程:

[复制] -> [发布内容] -> 右键选择 -> [新建发布]

-> [下一步] -> [选择发布数据库] -> [选中一个待发布的数据库]

-> [下一步] -> [选择发布类型] -> [事务发布]/[合并发布]

-> [下一步] -> [指定订阅服务器的类型] -> [运行sql server 2000的服务器]

-> [下一步] -> [指定项目] -> [在事务发布中只可以发布带主键的表] -> [选中一个有主键的待发布的表]

->[在合并发布中会给表增加唯一性索引和 rowguidcol 属性的唯一标识符字段[rowguid],默认值是newid()]

(添加新列将: 导致不带列列表的 insert 语句失败,增加表的大小,增加生成第一个快照所要求的时间)

->[选中一个待发布的表]

-> [下一步] -> [选择发布名称和描述] ->

-> [下一步] -> [自定义发布的属性] -> [否,根据指定方式创建发布]

-> [下一步] -> [完成] -> [关闭]

发布属性里有很多有用的选项:设定订阅到期(例如24小时)

设定发布表的项目属性:

常规窗口可以指定发布目的表的名称,可以跟原来的表名称不一样。

下图是命令和快照窗口的栏目

( sql server 数据库复制技术实际上是用insert,update,delete操作在订阅服务器上重做发布服务器上的事务操作

看文档资料需要把发布数据库设成完全恢复模式,事务才不会丢失

但我自己在测试中发现发布数据库是简单恢复模式下,每10秒生成一些大事务,10分钟后再收缩数据库日志,

这期间发布和订阅服务器上的作业都暂停,暂停恢复后并没有丢失任何事务更改 )

发布表可以做数据筛选,例如只选择表里面的部分列:

例如只选择表里某些符合条件的记录, 我们可以手工编写筛选的sql语句:

发布表的订阅选项,并可以建立强制订阅:

成功建立了发布以后,发布服务器上新增加了一个作业: [ 失效订阅清除 ]

分发服务器上新增加了两个作业:

[ jin001-dack-dack-5 ] 类型[ repl快照 ]

[ jin001-dack-3 ] 类型[ repl日志读取器 ]

上面蓝色字的名称会根据发布服务器名,发布名及第几次发布而使用不同的编号

repl快照作业是sql server复制的前提条件,它会先把发布的表结构,数据,索引,约束等生成到发布服务器的os目录下文件

(当有订阅的时候才会生成, 当订阅请求初始化或者按照某个时间表调度生成)

repl日志读取器在事务复制的时候是一直处于运行状态。(在合并复制的时候可以根据调度的时间表来运行)

建立一个数据库复制订阅的过程:

[复制] -> [订阅] -> 右键选择 -> [新建请求订阅]

-> [下一步] -> [查找发布] -> [查看已注册服务器所做的发布]

-> [下一步] -> [选择发布] -> [选中已经建立发布服务器上的数据库发布名]

-> [下一步] -> [指定同步代理程序登录] -> [当代理程序连接到代理服务器时:使用sql server身份验证]

(输入发布服务器上distributor_admin用户名和密码)

-> [下一步] -> [选择目的数据库] -> [选择在其中创建订阅的数据库名]/[也可以新建一个库名]

-> [下一步] -> [允许匿名订阅] -> [是,生成匿名订阅]

-> [下一步] -> [初始化订阅] -> [是,初始化架构和数据]

-> [下一步] -> [快照传送] -> [使用该发布的默认快照文件夹中的快照文件]

(订阅服务器要能访问发布服务器的repldata文件夹,如果有问题,可以手工设置网络共享及共享权限)

-> [下一步] -> [快照传送] -> [使用该发布的默认快照文件夹中的快照文件]

-> [下一步] -> [设置分发代理程序调度] -> [使用下列调度] -> [更改] -> [例如每五分钟调度一次]

-> [下一步] -> [启动要求的服务] -> [该订阅要求在发布服务器上运行sqlserveragent服务]

-> [下一步] -> [完成] -> [确定]

成功建立了订阅后,订阅服务器上新增加了一个类别是[repl-分发]作业(合并复制的时候类别是[repl-合并])

它会按照我们给的时间调度表运行数据库同步复制的作业。

3、sql server复制配置好后, 可能出现异常情况的实验日志:

1发布服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制没有多大影响

中断期间,分发和订阅都接收到没有复制的事务信息

2分发服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制有一些影响

中断期间,发布服务器的事务排队堆积起来

(如果设置了较长时间才删除过期订阅的选项, 繁忙发布数据库的事务日志可能会较快速膨胀),

订阅服务器会因为访问不到发布服务器,反复重试

我们可以设置重试次数和重试的时间间隔(最大的重试次数是9999, 如果每分钟重试一次,可以支持约69天不出错)

分发服务器sql server服务启动,网络接通以后,发布服务器上的堆积作业将按时间顺序作用到订阅机器上:

会需要一个比较长的时间(实际上是生成所有事务的insert,update,delete语句,在订阅服务器上去执行)

我们在普通的pc机上实验的58个事务100228个命令执行花了7分28秒

3订阅服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制影响比较大,可能需要重新初试化

我们实验环境(订阅服务器)从18:46分意外停机以, 第二天8:40分重启动后, 已经设好的复制在8:40分以后又开始正常运行了, 发布服务器上的堆积作业将按时间顺序作用到订阅机器上, 但复制管理器里出现快照的错误提示, 快照可能需要重新初试化,复制可能需要重新启动(我们实验环境的机器并没有进行快照初试化,复制仍然是成功运行的)

4、删除已经建好的发布和定阅可以直接用delete删除按钮

我们最好总是按先删定阅,再删发布,最后禁用发布的顺序来操作。

如果要彻底删去sql server上面的复制设置, 可以这样操作:

[复制] -> 右键选择 [禁用发布] -> [欢迎使用禁用发布和分发向导]

-> [下一步] -> [禁用发布] -> [要在"@servername"上禁用发布]

-> [下一步] -> [完成禁用发布和分发向导] -> [完成]

我们也可以用t-sql命令来完成复制中发布及订阅的创建和删除, 选中已经设好的发布和订阅, 按属标右键可以[生成sql脚本]。(这里就不详细讲了, 后面推荐的网站内有比较详细的内容)

当你试图删除或者变更一个table时,出现以下错误

server: msg 3724, level 16, state 2, line 1

cannot drop the table 'object_name' because it is being used for replication

比较典型的情况是该table曾经用于复制,但是后来又删除了复制。

处理办法:

select from sysobjects where replinfo >'0'

sp_configure 'allow updates', 1

go

reconfigure with override

go

begin transaction

update sysobjects set replinfo = '0' where replinfo >'0'

commit transaction

go

rollback transaction

go

sp_configure 'allow updates', 0

go

reconfigure with override

go

楼主好,想实现这个的话,可以使用SQL自带的VS开发工具,做一个ETL包,然后部署发布到服务器数据库上,添加作业,设定同步时间即可。跨局域网和跨服务器基本上在SQL连接中,本身就不太好解决,需要有服务器之间的链接访问权才可以建立连接。但是ETL不受这一点限制。唯一不足的地方在于,如果你有100张表数据需要同步,做ETL包是个麻烦事,同一个模式,你要做非常多的ETL流程,不管是做在一个包中也好,多个包中也好,都会显得比较繁琐。但是好处是不受服务器限制,另外要注意,如果同步的表有外键,那么需要在做ETL的时候添加执行顺序,才能确保表数据同步成功的。如果想了解更多可加我,646443736

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » 如何跨Oracle数据库实现表级别的实时同步

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情