如何在云服务器上部署持久运行scrapy

如何在云服务器上部署持久运行scrapy,第1张

 作为linux服务器管理员,经常要使用ssh登陆到远程linux机器上做一些耗时的操作。

也许你遇到过使用telnet或SSH远程登录linux,运行一些程序。如果这些程序需要运行很长时间(几个小时),而程序运行过程中出现网络故障,或者客户机故障,这时候客户机与远程服务器的链接将终端,并且远程服务器没有正常结束的命令将被迫终止。

又比如你SSH到主机上后,开始批量的scp命令,如果这个ssh线程断线了,scp进程就中断了。在远程服务器上正在运行某些耗时的作业,但是工作还没做完快要下班了,退出的话就会中断操作了,如何才好呢

我们利用screen命令可以很好的解决这个问题。实现在断开SSH的情况下,在服务器上继续执行程序。

那什么是screen命令

Screen被称之为一个全屏窗口管理器,用他可以轻松在一个物理终端上获得多个虚拟终端的效果。

Screen功能说明:

简单来说,Screen是一个可以在多个进程之间多路复用一个物理终端的窗口管理器,这意味着你能够使用一个单一的终端窗口运行多终端的应用。Screen中有会话的概念,用户可以在一个screen会话中创建多个screen窗口,在每一个screen窗口中就像操作一个真实的telnet/SSH连接窗口那样。

Screen命令语法:

screen [-AmRvx -ls -wipe][-d <作业名称>][-h <行数>][-r  <作业名称>][-s ][-S <作业名称>]

Screen命令参数:

-A -[rR] 将所有的视窗都调整为目前终端机的大小。

-c filename 用指定的filename文件替代screen的配置文件’screenrc’

-d [pidttyhost]  断开screen进程(使用该命令时,screen的状态一定要是Attached,也就是说有用户连在screen里)。一般进程的名字是以pidttyhost这种形式表示(用screen  -list命令可以看出状态)。

-D [pidttyhost] 与-d命令实现一样的功能,区别就是如果执行成功,会踢掉原来在screen里的用户并让他logout。

-h <行数> 指定视窗的缓冲区行数。

-ls或–list 显示目前所有的screen作业。

-m 即使目前已在作业中的screen作业,仍强制建立新的screen作业。

-p number or name 预先选择一个窗口。

-r [pidttyhost] 恢复离线的screen进程,如果有多个断开的进程,需要指定[pidttyhost]

-R 先试图恢复离线的作业。若找不到离线的作业,即建立新的screen作业。

-s shell 指定建立新视窗时,所要执行的shell。

-S <作业名称> 指定screen作业的名称。(用来替代[pidttyhost]的命名方式,可以简化操作)

-v 显示版本信息。

-wipe 检查目前所有的screen作业,并删除已经无法使用的screen作业。

-x 恢复之前离线的screen作业。

Screen命令的常规用法:

screen -d -r:连接一个screen进程,如果该进程是attached,就先踢掉远端用户再连接。

screen -D -r:连接一个screen进程,如果该进程是attached,就先踢掉远端用户并让他logout再连接

screen -ls或者-list:显示存在的screen进程,常用命令

screen -m:如果在一个Screen进程里,用快捷键crtl+a c或者直接打screen可以创建一个新窗口,screen  -m可以新建一个screen进程。

screen -dm:新建一个screen,并默认是detached模式,也就是建好之后不会连上去。

screen -p number or name:预先选择一个窗口。

Screen实现后台运行程序的简单步骤:

1> 要进行某项操作时,先使用命令创建一个Screen:

代码如下:

[linux@user~]$ screen -S test1

2>接着就可以在里面进行操作了,如果你的任务还没完成就要走开的话,使用命令保留Screen:

代码如下:

[linux@user~]$ Ctrl+a+d #按Ctrl+a,然后再按d即可保留Screen

[detached] #这时会显示出这个提示,说明已经保留好Screen了

如果你工作完成的话,就直接输入:

代码如下:

[linux@user~]$ exit #这样就表示成功退出了

[screen is terminating]

3> 如果你上一次保留了Screen,可以使用命令查看:

代码如下:

[linux@user~]$ screen -ls

There is a screen on:

9649test1 (Detached)

恢复Screen,使用命令:

代码如下:

[linux@user~]$ screen -r test1 (or 9649)

Screen命令中用到的快捷键

Ctrl+a c :创建窗口

Ctrl+a w :窗口列表

Ctrl+a n :下一个窗口

Ctrl+a p :上一个窗口

Ctrl+a 0-9 :在第0个窗口和第9个窗口之间切换

Ctrl+a K(大写) :关闭当前窗口,并且切换到下一个窗口(当退出最后一个窗口时,该终端自动终止,并且退回到原始shell状态)

exit :关闭当前窗口,并且切换到下一个窗口(当退出最后一个窗口时,该终端自动终止,并且退回到原始shell状态)

Ctrl+a d :退出当前终端,返回加载screen前的shell命令状态

多窗口

screen,像许多的窗口管理器一样,能支持多窗口。这个功能在处理多个任务且同时没有打开新的会话时  很有用。作为一个系统管理员,我常常要同时开四五个SSH会话。在每个shell下,我可能要处理两三个任务。不使用screen的话,需要15个SSH  会话,15次登录,15个窗口等等。使用screen,每个系统都分配到一个单独的会话中,我通过screen来管理系统上不同的作业。

要打开新的窗口,只需要使用“Ctrl-A”“c”。创建的新的窗口会显示一个默认的命令提示符。例如,我可以运行top命令后再打开一个新的窗口来做其它的工作。Top继续留在那运行!可以亲身实验一下,启动screen并运行top。(注:为了节省空间我截断了多个屏幕。)

启动top

代码如下:

Mem: 506028K av, 500596K used, 5432K free,

0K shrd, 11752K buff

Swap: 1020116K av, 53320K used, 966796K free

393660K cached

< p> PID USER PRI NI SIZE RSS SHARE STAT %CPU %ME

6538 root 25 0 1892 1892 596 R 491 03

6614 root 16 0 1544 1544 668 S 283 03

7198 admin 15 0 1108 1104 828 R 56 02

现在可以通过“Ctrl-A”“c”来打开一个新窗口

代码如下:

[admin@ensim admin]$

To get back to top, use "Ctrl-A "n"

Mem: 506028K av, 500588K used, 5440K free,

0K shrd, 11960K buff

Swap: 1020116K av, 53320K used, 966796K free

392220K cached

< p> PID USER PRI NI SIZE RSS SHARE STAT %CPU %ME

6538 root 25 0 1892 1892 596 R 483 03

6614 root 15 0 1544 1544 668 S 307 03

你可以创建多个窗口然后通过“Ctrl-A”“n”切换到下一个窗口,或者使用“Ctrl-A”“p”返回上一个窗口。当你在其它窗口工作时,其它窗口的每个程序都会保持运行。

退出screen

有两种方式退出screen。第一种和登出一个shell一样,你可以通过“Ctrl-A”“K”或者“exit”来终止一个窗口。这样当前的窗口会被关闭,如果你打开了多个窗口,你就会直接转到其余中的一个,而如果是仅有的一个窗口时,你就退出了screen。

另外一种退出screen的方式是分离窗口。这种方式只是简单地关闭了窗口但进程仍运行着。如果你有确定要长时间执行的进程,还需要关闭SSH程序时,你便可以使用“Ctrl-A”“d”分离窗口。这会使你回到shell中。所有的screen窗口都待在那里,你可以稍后重新接管它们。(译者注:这很像我们实际中的最小化窗口和程序后台运行)

接管会话

假设你正用着screen花了很长时间编译着一个程序,突然间你的连接断开了。请不用担心,screen会保存你的编译进度。重新登录你的操作系统后使用screen列表工具查看有哪些会话正在运行:

代码如下:

[root@gigan root]# screen -ls

There are screens on:

31619ttyp2gigan (Detached)

4731ttyp2gigan (Detached)

2 Sockets in /tmp/screens/S-root

在这里,我有两个不同的screen会话。要需要重新接管其中一个,使用恢复窗口的命令:

代码如下:

[root@gigan root]#screen -r 31619ttyp2gigan

只需要使用 -r  选项再接会话的名,现在你便可以重新回到刚才的屏幕。令人欣喜的是,你还可以在任何地方重新接管。不论在办公室还是其它客户端上,你都可以使用screen来启动一项工作然后退出。

多窗口

screen,像许多的窗口管理器一样,能支持多窗口。这个功能在处理多个任务且同时没有打开新的会话时  很有用。作为一个系统管理员,我常常要同时开四五个SSH会话。在每个shell下,我可能要处理两三个任务。不使用screen的话,需要15个SSH  会话,15次登录,15个窗口等等。使用screen,每个系统都分配到一个单独的会话中,我通过screen来管理系统上不同的作业。

要打开新的窗口,只需要使用“Ctrl-A”“c”。创建的新的窗口会显示一个默认的命令提示符。例如,我可以运行top命令后再打开一个新的窗口来做其它的工作。Top继续留在那运行!可以亲身实验一下,启动screen并运行top。(注:为了节省空间我截断了多个屏幕。)

启动top

代码如下:

Mem: 506028K av, 500596K used, 5432K free,

0K shrd, 11752K buff

Swap: 1020116K av, 53320K used, 966796K free

393660K cached

< p> PID USER PRI NI SIZE RSS SHARE STAT %CPU %ME

6538 root 25 0 1892 1892 596 R 491 03

6614 root 16 0 1544 1544 668 S 283 03

7198 admin 15 0 1108 1104 828 R 56 02

现在可以通过“Ctrl-A”“c”来打开一个新窗口

代码如下:

[admin@ensim admin]$

To get back to top, use "Ctrl-A "n"

Mem: 506028K av, 500588K used, 5440K free,

0K shrd, 11960K buff

Swap: 1020116K av, 53320K used, 966796K free

392220K cached

< p> PID USER PRI NI SIZE RSS SHARE STAT %CPU %ME

6538 root 25 0 1892 1892 596 R 483 03

6614 root 15 0 1544 1544 668 S 307 03

你可以创建多个窗口然后通过“Ctrl-A”“n”切换到下一个窗口,或者使用“Ctrl-A”“p”返回上一个窗口。当你在其它窗口工作时,其它窗口的每个程序都会保持运行。

退出screen

有两种方式退出screen。第一种和登出一个shell一样,你可以通过“Ctrl-A”“K”或者“exit”来终止一个窗口。这样当前的窗口会被关闭,如果你打开了多个窗口,你就会直接转到其余中的一个,而如果是仅有的一个窗口时,你就退出了screen。

另外一种退出screen的方式是分离窗口。这种方式只是简单地关闭了窗口但进程仍运行着。如果你有确定要长时间执行的进程,还需要关闭SSH程序时,你便可以使用“Ctrl-A”“d”分离窗口。这会使你回到shell中。所有的screen窗口都待在那里,你可以稍后重新接管它们。(译者注:这很像我们实际中的最小化窗口和程序后台运行)

接管会话

假设你正用着screen花了很长时间编译着一个程序,突然间你的连接断开了。请不用担心,screen会保存你的编译进度。重新登录你的操作系统后使用screen列表工具查看有哪些会话正在运行:

代码如下:

[root@gigan root]# screen -ls

There are screens on:

31619ttyp2gigan (Detached)

4731ttyp2gigan (Detached)

2 Sockets in /tmp/screens/S-root

在这里,我有两个不同的screen会话。要需要重新接管其中一个,使用恢复窗口的命令:

代码如下:

[root@gigan root]#screen -r 31619ttyp2gigan

只需要使用 -r  选项再接会话的名,现在你便可以重新回到刚才的屏幕。令人欣喜的是,你还可以在任何地方重新接管。不论在办公室还是其它客户端上,你都可以使用screen来启动一项工作然后退出。

请问阿里云服务器环境怎么配置?非常感谢!

可以在阿里云主机上安装第三方一键php包的配置。好在中国人也开发了这个面板,可以免费使用。这样,只需点击几下鼠标,就可以轻松配置环境。借助这些php面板,可以轻松配置php环境、mysql数据库、phpmyadmin、nginx等环境软件。无论使用winserver还是linuxserver,都可以借助三方面板成功配置可视化操作界面,然后一键部署worpdress环境。因为这方面的内容比较多,这里就不多写了,大家可以在我的博客上留言或者搜索相关内容。劳伟写过教程,而且不止一本,都挺详细的,能帮你入门。

如果我对阿里云服务器环境的配置比较有经验,一般有两种方式:手动配置和使用面板工具。手动配置有点麻烦,容易出错。建议新手使用面板工具,比如宝塔面板。一键安装配置服务器环境非常方便。参考宝塔面板配置服务器教程:宝塔面板搭建网站也有手动配置服务器环境,阿里云官方也有文档教程。请参考手工构建WordPress。

安装守护神。HostMaster,并安装IISASPASP。NETPHPMYSQL环境一键搞定。

后台有一键配置功能,可以找在线技术人员指导。

如何在阿里云服务器上搭建多个网站?

阿里云服务器和景安云服务器应该差不多。

下面我简单介绍一下在景安搭建多个网站的流程在云服务器中,使用服务器管理助手创建网站A,并填入站点名称、ftp地址、用户名和密码。并且给A网站分配资源域名A解析到A网站;重复第一步、第二步,可以实现B域名访问B网站;可以在管理站点中管理A和B网站。注:只要带宽、CPU、内存资源够使,一个云服务器可以搭建无数个网站。

阿里云服务器,如何设置对外通信ip和端口(程序是tcp服务器,和不适用ASP的http服务器)?

tcp服务器程序运行到阿里云服务器上监听指定端口,然后把将安全组的公网入方向,防火墙的入站规则添加这个tcp类型端口,就可以公网提供服务了iis是个web服务器的运行环境,至于是否使用iis取决于你的业务需要

阿里云服务器怎么配置环境?

由于Web网站需要搭建测试模板使用,会造成网站建设环境混乱。需要重置ECS服务器系统的状态,将ECS服务器恢复到未安装Web网站时的状态。

1、登录云服务管理控制台,选择云服务ECS,单击实例,进入实例页面。

2、在实例列表页面,选择更多磁盘和镜像,单击“更换系统盘”或“重新初始化磁盘”,将ECS服务器重置为初始状态。

购买了阿里云服务器和域名,怎么搭建网站?

1、安装护卫神主机大师,一键搭建网站环境(IIS+ASP+ASPNET+PHP+MYSQL+FTP)

2、用主机大师开通网站

3、通过FTP上传文件到服务器

4、解析域名到网站,就可以访问了

怎么添加配置服务器?

1/3

搭建服务器的必要条件是要有服务器,可以购买后到机房托管(适合大企业),或者直接购买服务器空间(例如阿里云、京东云、腾讯云空间服务器),购买后选择空间,视服务器存放什么内容选择,如果是资讯网站发布文章或电商网站发布商品等几个G空间(存等),若有视频则建议多买几十G,若是做UGC那种用户发布内容的话或企业频繁更新的网站或软件则需要更大空间。挑选时要看下服务器空间支持的访问量,例如支持一万人访问还是上千万用户访问量则价格不同,而且要看下服务器的硬件配置高低(例如电脑配置肯定越高越稳定快速些)。这是用于网络用户访问的互联网服务器,若是只为了几个熟人用户访问那就是局域网了,通过联网就传输或访问文件则不叫搭建服务器了,可电脑设置或买个带硬盘无线路由器也能传输了。

2/3

购买服务器后若让用户访问还需购买域名,(可在阿里云或腾讯云都能买想要的域名方便访问,就是网站及存放内容的网址),需备案(要做实名认证和等些日子审核,避免做不正当不健康的网站或软件),并制定到购买的服务器空间里。

3/3

需要开发好或者购买程序模板上传到服务器空间里,这个是最麻烦的,例如要有产品经理设计软件或网站,还要有UI设计师,前端与后台的程序员开发等,然后将数据库及文件等上传发布

需要一步步排查。以下是一些可能有用的步骤:

确认端口是否开启:可以通过在服务器上运行命令netstat -anp | grep 端口号来确认端口是否在监听状态。如果端口没有在监听状态,则需要检查应用程序是否正确配置了端口号。

确认防火墙是否阻止流量:如果端口在监听状态,但是外部无法访问,可能是因为防火墙阻止了流量。可以在服务器上运行iptables -L命令来检查防火墙规则,看是否有针对该端口的规则。

检查路由器端口转发:如果服务器是在路由器后面,则需要在路由器上设置端口转发规则,将外部流量转发到服务器上。可以通过在路由器上查看端口转发规则来确认是否设置正确。

检查网络配置:如果上述步骤都没有问题,可以考虑检查网络配置。可以在服务器上运行ping命令来检查网络是否正常。如果网络有问题,需要排查网络设备和网络连接。

检查公网 IP 是否生效:如果已经获取了公网 IP,可以通过在服务器上运行curl ifconfigme来确认公网 IP 是否生效。如果公网 IP 无法生效,可能需要联系电信运营商解决问题。

希望以上步骤能够帮助你找到问题所在,并解决你的问题。

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » 如何在云服务器上部署持久运行scrapy

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情