ORM 应用详解
- 2019 年 10 月 8 日
- 笔记
目录
- ORM 概念
- ORM 由来
- ORM 优势
- ORM 劣势
- ORM 总结
- ORM 与 DB 的对应关系
- Model 模块
- ORM 操作
- ORM 简单 增删改查 操作
- ORM 常用字段
- ORM 查看数据库与ORM字段对应关系
- ORM 其他字段
- 自定义字段
- 字段参数
- Model Meta参数
- 常用13中查询(必会)
- 单表查询的双下划线应用
- ForeignKey外键的操作
- 多对多
- 聚合(aggregate)查询和分组(annotate)查询
- F查询 和 Q查询
- 事务
- QuerySet方法大全
- Django ORM执行原生SQL(了解)
- Django终端打印SQL语句
- 在Python脚本中调用Django环境
- django控制台写入数据(交互式无法保存记录)
ORM 概念
对象关系映射（Object Relational Mapping，简称ORM）模式是一种为了解决面向对象与关系数据库存在的互不匹配的现象的技术。 简单的说，ORM是通过使用描述对象和数据库之间映射的元数据，将程序中的对象自动持久化到关系数据库中。 ORM在业务逻辑层和数据库层之间充当了桥梁的作用。
ORM 由来
让我们从O/R开始。字母O起源于"对象"(Object)，而R则来自于"关系"(Relational)。 几乎所有的软件开发过程中都会涉及到对象和关系数据库。在用户层面和业务逻辑层面，我们是面向对象的。 当对象的信息发生变化的时候，我们就需要把对象的信息保存在关系数据库中。 按照之前的方式来进行开发就会出现程序员会在自己的业务逻辑代码中夹杂很多SQL语句用来增加、读取、修改、删除相关数据， 而这些代码通常都是极其相似或者重复的
ORM 优势
ORM解决的主要问题是对象和关系的映射。它通常将一个类和一张表一一对应，类的每个实例对应表中的一条记录， 类的每个属性对应表中的每个字段。 ORM提供了对数据库的映射，不用直接编写SQL代码，只需操作对象就能对数据库操作数据。 让软件开发人员专注于业务逻辑的处理，提高了开发效率。
ORM 劣势
ORM的缺点是会在一定程度上牺牲程序的执行效率。 ORM的操作是有限的，也就是ORM定义好的操作是可以完成的，一些复杂的查询操作是完成不了。 ORM用多了SQL语句就不会写了，关系数据库相关技能退化…
ORM 总结
ORM只是一种工具，工具确实能解决一些重复，简单的劳动。这是不可否认的。 但我们不能指望某个工具能一劳永逸地解决所有问题，一些特殊问题还是需要特殊处理的。 但是在整个软件开发过程中需要特殊处理的情况应该都是很少的，否则所谓的工具也就失去了它存在的意义。
ORM 与 DB 的对应关系
ORM 面向对象和关系型数据库的一种映射,通过操作对象的方式操作数据库数据,不支持对库的操作,只能操作表 对应关系: 类 –> 表 对象 –> 数据行 属性 –> 字段
Model 模块 在Django中model是你数据的单一、明确的信息来源。它包含了你存储的数据的重要字段和行为。通常， 一个模型（model）映射到一个数据库表。 基本情况： 每个模型都是一个Python类，它是django.db.models.Model的子类。 模型的每个属性都代表一个数据库字段。 综上所述，Django为您提供了一个自动生成的数据库访问API，详询官方文档https://docs.djangoproject.com/en/1.11/topics/db/queries/
ORM 操作
# 获取表中所有的数据 ret = models.User.objects.all() # QuerySet 对象列表 【对象】 for i in ret: print(i.xxx,i.sss) #xxx,sss 填写要获取的字段 # 获取一个对象（有且唯一） obj = models.User.objects.get(username='gandan') # 获取不到或者获取到多个对象会报错 print(obj.xxx,obj.sss) ##xxx,sss 填写要获取的字段 # 获取满足条件的对象 ret = models.User.objects.filter(username='gandan1',password='dasb') # QuerySet 对象列表 #获取不到返回空列表 print(ret[0].xxx,ret[0].sss) #可以通过索引与循环取值
ORM 简单 增删改查 操作
- 增
#创建记录方式1 student_obj = models.Student( name='gandan', age=18, ) student_obj.save() #创建记录方式2 new_obj = models.Student.objects.create(name='tandan',age=17) #也可以写成 **{'name':'xx'} print(new_obj) #Student object -- model对象 print(new_obj.name) #点属性,可以获取对应字段的数据 #创建记录方式3 批量创建 objs_list = [] for i in range(100,3000000): obj = models.Student( name='goudan', age = 16, ) objs_list.append(obj) models.Student.objects.bulk_create(objs_list) #创建方法4 update_or_create 有就更新,没有就创建 models.Student.objects.update_or_create( name='胖妞', defaults={ 'age':18, } ) #添加日期数据 import datetime current_date = datetime.datetime.now() # print(current_date) #2019-07-19 12:19:26.385654 # 两种方式 # models.Brithday.objects.create(name='钢蛋',date=current_date) # models.Brithday.objects.create(name='铁蛋',date='2000-12-08')
- 删
#删除 delete queryset 和model对象都可以调用 models.Student.objects.get(id=3).delete() #model对象来调用的delete方法 models.Student.objects.filter(name='胖妞').delete() models.Student.objects.all().delete() #删除所有
- 改
更新 update方法 model对象不能调用更新方法 报错信息'Student' object has no attribute 'update' 只能queryset调用,如果 models.Student.objects.get(name='gandan').update(age=38) models.Student.objects.filter(name='tiandan').update(age=38)
- 简单查
#查询所有的数据 .all方法 返回的是queryset集合 all_objs = models.Student.objects.all() #<QuerySet [<Student: Student object>, <Student: Student object>, <Student: Student object>]> -- 类似于列表 -- queryset集合 #条件查询 .filter方法,返回的也是queryset集合,查询不到内容,不会 报错,返回一个<QuerySet []>空的queryset objs = models.Student.objects.filter(id=2) #找id为2的那条记录 print(objs) #<QuerySet [<Student: xiaozhuang>]> objs = models.Student.objects.filter(name='dazhaung') print(objs) #<QuerySet [<Student: dazhaung>]> #条件查询 get方法,返回的是model对象,而且get方法有且必须只有1个结果 obj = models.Student.objects.get(id=3) #找id为3的那条记录 print(obj) #xiaozhuang2
#增 obj = models.Publisher.objects.create(name='xxx') obj = models.Publisher(name='xxx')# 存在在内存中的对象 obj.save() # 提交到数据库中 新增 """ book_obj = Book.objects.create(name='xxx',pub=出版社对象) book_obj = Book.objects.create(name='xxx',pub_id=出版社对象的id) book_obj = Book(name='xxx',pub=出版社对象) book_obj.save() #注意区别 pub与pub_id """" #删 obj_list = models.Publisher.objects.filter(pk=pk) obj_list.delete() # Book.objects.filter(pk=1).delete() obj = models.Publisher.objects.get(pk=pk) obj.delete() #改 obj = models.Publisher.objects.get(pk=1) obj.name = publisher_name #只是在内存中操作 obj.save() # 保存数据到数据库中 #查 models.Publisher.objects.all()#查询所有的数据 queryset 对象列表 models.Publisher.objects.get(name='xxxx')#对象,获取不到或者获取到多个就报错 models.Publisher.objects.filter(name='xxxx')#获取满足条件的所有的对象 queryset 对象列表
ORM 常用字段
- AutoField 主键
自增的整形字段，必填参数primary_key=True，则成为数据库的主键。无该字段时，django自动创建。 一个model不能有两个AutoField字段。 #如 pid = models.AutoField(primary_key=True)
- ForeignKey 外键
consultant = models.ForeignKey('UserProfile', verbose_name="销售", blank=True, null=True, on_delete=models.CASCADE) #参数1关联表,参数2显示中文 on_delete=models.CASCADE 级联删除
- IntegerField 整数
一个整数类型。数值的范围是 -2147483648 ~ 2147483647。 #如 age = models.IntegerField()
- CharField 字符串
字符类型，必须提供max_length参数。max_length表示字符的长度。 #小提示 电话号建议使用CharField存储 节省资源 #如 name = models.CharField(max_length=32)
- BooleanField 布尔值
BooleanField(True/False) #数据库存为True--> 1 False--> 0
- TextField 文本
TextField()#比较长的字符串
- DateTimeField 日期时间
- auto_now_add=True
# 新增数据的时候会自动保存当前的时间 birth = models.DateTimeField(auto_now_add=True) #默认是 UTC时间 一般不跨时区的应用，可以不使用时区，即在settings.py设置 USE_TZ = False
- auto_now=True
# 新增、修改当前数据的时候会自动保存当前的时间 birth = models.DateTimeField(auto_now=True)
- DecimalField 十进制的小数
- max_digits 小数总长度
- decimal_places 小数位长度
max_digits 小数总长度 5 decimal_places 小数位长度 2 #那么整数位长度就为3
ORM 查看数据库与ORM字段对应关系
ORM 其他字段
- 字段类型，详情可点击查询官网。
AutoField(Field) - int自增列，必须填入参数 primary_key=True BigAutoField(AutoField) - bigint自增列，必须填入参数 primary_key=True 注：当model中如果没有自增列，则自动会创建一个列名为id的列 from django.db import models class UserInfo(models.Model): # 自动创建一个列名为id的且为自增的整数列 username = models.CharField(max_length=32) class Group(models.Model): # 自定义自增列 nid = models.AutoField(primary_key=True) name = models.CharField(max_length=32) SmallIntegerField(IntegerField): - 小整数 -32768 ～ 32767 PositiveSmallIntegerField(PositiveIntegerRelDbTypeMixin, IntegerField) - 正小整数 0 ～ 32767 IntegerField(Field) - 整数列(有符号的) -2147483648 ～ 2147483647 PositiveIntegerField(PositiveIntegerRelDbTypeMixin, IntegerField) - 正整数 0 ～ 2147483647 BigIntegerField(IntegerField): - 长整型(有符号的) -9223372036854775808 ～ 9223372036854775807 BooleanField(Field) - 布尔值类型 NullBooleanField(Field): - 可以为空的布尔值 CharField(Field) - 字符类型 - 必须提供max_length参数， max_length表示字符长度 TextField(Field) - 文本类型 EmailField(CharField)： - 字符串类型，Django Admin以及ModelForm中提供验证机制 - e_mail = models.EmailField(max_length=255, unique=True) IPAddressField(Field) - 字符串类型，Django Admin以及ModelForm中提供验证 IPV4 机制 GenericIPAddressField(Field) - 字符串类型，Django Admin以及ModelForm中提供验证 Ipv4和Ipv6 - 参数： protocol，用于指定Ipv4或Ipv6， 'both',"ipv4","ipv6" unpack_ipv4， 如果指定为True，则输入::ffff:192.0.2.1时候，可解析为192.0.2.1，开启此功能，需要protocol="both" URLField(CharField) - 字符串类型，Django Admin以及ModelForm中提供验证 URL SlugField(CharField) - 字符串类型，Django Admin以及ModelForm中提供验证支持 字母、数字、下划线、连接符（减号） CommaSeparatedIntegerField(CharField) - 字符串类型，格式必须为逗号分割的数字 UUIDField(Field) - 字符串类型，Django Admin以及ModelForm中提供对UUID格式的验证 FilePathField(Field) - 字符串，Django Admin以及ModelForm中提供读取文件夹下文件的功能 - 参数： path, 文件夹路径 match=None, 正则匹配 recursive=False, 递归下面的文件夹 allow_files=True, 允许文件 allow_folders=False, 允许文件夹 FileField(Field) - 字符串，路径保存在数据库，文件上传到指定目录 - 参数： upload_to = "" 上传文件的保存路径 storage = None 存储组件，默认django.core.files.storage.FileSystemStorage ImageField(FileField) - 字符串，路径保存在数据库，文件上传到指定目录 - 参数： upload_to = "" 上传文件的保存路径 storage = None 存储组件，默认django.core.files.storage.FileSystemStorage width_field=None, 上传图片的高度保存的数据库字段名（字符串） height_field=None 上传图片的宽度保存的数据库字段名（字符串） DateTimeField(DateField) - 日期+时间格式 YYYY-MM-DD HH:MM[:ss[.uuuuuu]][TZ] DateField(DateTimeCheckMixin, Field) - 日期格式 YYYY-MM-DD TimeField(DateTimeCheckMixin, Field) - 时间格式 HH:MM[:ss[.uuuuuu]] DurationField(Field) - 长整数，时间间隔，数据库中按照bigint存储，ORM中获取的值为datetime.timedelta类型 FloatField(Field) - 浮点型 DecimalField(Field) - 10进制小数 - 参数： max_digits，小数总长度 decimal_places，小数位长度 BinaryField(Field) - 二进制类型
自定义字段
- 有些字段 django没有提供,就需要我们自定来完成
- 自定义一个char类型字段：
class MyCharField(models.Field):#自定义的char类型的字段类 def __init__(self, max_length, *args, **kwargs): self.max_length = max_length super(MyCharField, self).__init__(max_length= max_length,*args, **kwargs) def db_type(self, connection):#限定生成数据库表的字段类型为char，长度为max_length指定的值 return 'char(%s)'%self.max_length
- 使用自定义char类型字段：
class Class(models.Model): id = models.AutoField(primary_key=True) title = models.CharField(max_length=25) cname = MyCharField(max_length=25)# 使用自定义的char类型的字段
- 自定义一个二进制字段，以及Django字段与数据库字段类型的对应关系。
class UnsignedIntegerField(models.IntegerField): def db_type(self, connection): return 'integer UNSIGNED' # PS: 返回值为字段在数据库中的属性。 # Django字段与数据库字段类型对应关系如下： 'AutoField': 'integer AUTO_INCREMENT', 'BigAutoField': 'bigint AUTO_INCREMENT', 'BinaryField': 'longblob', 'BooleanField': 'bool', 'CharField': 'varchar(%(max_length)s)', 'CommaSeparatedIntegerField': 'varchar(%(max_length)s)', 'DateField': 'date', 'DateTimeField': 'datetime', 'DecimalField': 'numeric(%(max_digits)s, %(decimal_places)s)', 'DurationField': 'bigint', 'FileField': 'varchar(%(max_length)s)', 'FilePathField': 'varchar(%(max_length)s)', 'FloatField': 'double precision', 'IntegerField': 'integer', 'BigIntegerField': 'bigint', 'IPAddressField': 'char(15)', 'GenericIPAddressField': 'char(39)', 'NullBooleanField': 'bool', 'OneToOneField': 'integer', 'PositiveIntegerField': 'integer UNSIGNED', 'PositiveSmallIntegerField': 'smallint UNSIGNED', 'SlugField': 'varchar(%(max_length)s)', 'SmallIntegerField': 'smallint', 'TextField': 'longtext', 'TimeField': 'time', 'UUIDField': 'char(32)',
字段参数
- 字段参数，详情可点击查看官网。
null 数据库中字段是否可以为空 #注意 数据库的 null 和''空字符是两种情况 db_column 数据库中字段的列名 default 数据库中字段的默认值 primary_key 数据库中字段是否为主键 db_index 数据库中字段是否可以建立索引 unique 数据库中字段是否可以建立唯一索引 unique_for_date 数据库中字段【日期】部分是否可以建立唯一索引 unique_for_month 数据库中字段【月】部分是否可以建立唯一索引 unique_for_year 数据库中字段【年】部分是否可以建立唯一索引 verbose_name Admin中显示的字段名称 blank Admin中是否允许用户输入为空 editable Admin中是否可以编辑 help_text Admin中该字段的提示信息 choices Admin中显示选择框的内容，用不变动的数据放在内存中从而避免跨表操作 如：gf = models.IntegerField(choices=[(0, '何穗'),(1, '大表姐'),],default=1) error_messages 自定义错误信息（字典类型），从而定制想要显示的错误信息； 字典健：null, blank, invalid, invalid_choice, unique, and unique_for_date 如：{'null': "不能为空.", 'invalid': '格式错误'} validators 自定义错误验证（列表类型），从而定制想要的验证规则 from django.core.validators import RegexValidator from django.core.validators import EmailValidator,URLValidator,DecimalValidator,MaxLengthValidator, MinLengthValidator,MaxValueValidator,MinValueValidator 如： test = models.CharField( max_length=32, error_messages={ 'c1': '优先错信息1', 'c2': '优先错信息2', 'c3': '优先错信息3', }, validators=[ RegexValidator(regex='root_d+', message='错误了', code='c1'), RegexValidator(regex='root_112233d+', message='又错误了', code='c2'), EmailValidator(message='又错误了', code='c3'), ] )字段参数
Model Meta参数
- 这个不是很常用，如果你有特殊需要可以使用。详情点击查看官网。
class UserInfo(models.Model): nid = models.AutoField(primary_key=True) username = models.CharField(max_length=32) class Meta: # 数据库中生成的表名称 默认 app名称 + 下划线 + 类名 db_table = "table_name" # admin中显示的表名称 verbose_name = '个人信息' # verbose_name加s verbose_name_plural = '所有用户信息' # 联合索引 index_together = [ ("pub_date", "deadline"), # 应为两个存在的字段 ] # 联合唯一索引 unique_together = (("driver", "restaurant"),) # 应为两个存在的字段
常用13中查询(必会)
<1> all():#查询所有结果 ——》 QuerySet 对象列表 想要的到方便查看的结果,可以使用__str___方法加在ORM的表类后边 如: """ def __str__(self): return '{} - {}'.format(self.pk, self.name) """ ret = models.Person.objects.all() <2> get(**kwargs):#获取满足条件的一个数据 ——》 对象 获取不到或者多个都报错 ret = models.Person.objects.get(pk=1) <3> filter(**kwargs):#获取满足条件的所有数据 ——》 QuerySet 对象列表 没有返回None ret = models.Person.objects.filter(pk=1) <4> exclude(**kwargs):#获取不满足条件的所有数据 ——》 QuerySet 对象列表 ret = models.Person.objects.exclude(pk=1) <5> values(*field):#返回一个ValueQuerySet——一个特殊的QuerySet，运行后得到的并不是一系列model的实例化对象， 而是一个可迭代的字典序列,拿到对象指定的字段和字段的值 QuerySet [ {} ,{} ] ret = models.Person.objects.values('pid','name') # values() 拿到对象所有的字段和字段的值 QuerySet [ {} ,{} ] <6> values_list():#它与values()非常相似，它返回的是一个元组序列，values()返回的是一个字典序列,拿到对象所有的字段的值 QuerySet [ () ,() ] 用索引取值 values_list(字段)#拿到对象指定的字段的值 QuerySet [ {} ,{} ] ret = models.Person.objects.values_list('name','pid') <7> order_by(字段):#对查询结果排序默认升序 123 order_by(-字段):#字段前边加减号排序方式改为降序321 order_by(字段1,-字段2):#先按照字段1升序排序,再按照字段2降序排序,如果字段1值有相等的,将按照字段2排序大的在前面 ret = models.Person.objects.all().order_by('age','-pid') <8> reverse():#(反向排序 只能对已经排序的QuerySet进行反转) ret = models.Person.objects.all().order_by('pk').reverse() <9> distinct():#(去重 完全相同的内容才能去重)从返回结果中剔除重复纪录(如果你查询跨越多个表，可能在计算QuerySet时得到重复的结果。 此时可以使用distinct()，注意只有在PostgreSQL中支持按字段去重。) ret = models.Person.objects.values('age').distinct() <10> count():#(计数)返回数据库中匹配查询(QuerySet)的对象数量。 ret = models.Person.objects.all().count() #len(models.Person.objects.all())效果一样 <11> first():#(取第一元素 没有元素 None)返回第一条记录 ret = models.Person.objects.filter(pk=1).values().first() <12> last():#(取最后一元素 没有元素 None)返回最后一条记录 ret = models.Person.objects.filter(pk=1).values().last() <13> exists():#(查询的数据是否存在)如果QuerySet包含数据，就返回True，否则返回False ret = models.Person.objects.filter(pk=1000).exists()
#返回QuerySet对象的方法有 all() filter() exclude() order_by() reverse() distinct() #特殊的QuerySet values() 返回一个可迭代的字典序列 values_list() 返回一个可迭代的元祖序列 #返回具体对象的 get() first() last() #返回布尔值的方法有： exists() #返回数字的方法有 count()
单表查询的双下划线应用
import os os.environ.setdefault("DJANGO_SETTINGS_MODULE", "orm_practice.settings") import django django.setup() from app01 import models ret = models.Person.objects.filter(pk__gt=1) # gt greater than 大于 ret = models.Person.objects.filter(pk__lt=3) # lt less than 小于 ret = models.Person.objects.filter(pk__gte=1) # gte greater than equal 大于等于 ret = models.Person.objects.filter(pk__lte=3) # lte less than equal 小于等于 ret = models.Tb1.objects.filter(id__lt=10, id__gt=1) # 获取id大于1 且 小于10的值 ret = models.Person.objects.filter(pk__range=[2,3]) # range 范围 ret = models.Person.objects.filter(pk__in=[1,3,10,100]) # in 成员判断 ret = models.Tb1.objects.exclude(id__in=[11, 22, 33]) # not in ret = models.Person.objects.filter(name__contains='A')#name包含A的 ret = models.Person.objects.filter(name__icontains='A') # 忽略大小写 ret = models.Person.objects.filter(name__startswith='a')# 以什么开头 ret = models.Person.objects.filter(name__istartswith='A')#以什么开头不区分大小写 ret = models.Person.objects.filter(name__endswith='a')#以什么结尾 ret = models.Person.objects.filter(name__iendswith='I')#不区分大小写 ret = models.Person.objects.filter(birth__year='2019')#查字段年份 ret = models.Person.objects.filter(birth__contains='2018-06-24')#查月份只能查年在查月 查日同理 ret = models.Person.objects.filter(phone__isnull=False)#查看phone字段值不为null的(空字符不等于null哦)
ForeignKey外键的操作
- 正向查找
- 对象查找（跨表）
- 示例：
#语法： #对象.关联字段.字段 book_obj = models.Book.objects.first() # 第一本书对象 print(book_obj.publisher) # 得到这本书关联的出版社对象 print(book_obj.publisher.name) # 得到出版社对象的名称
- 字段查找（跨表）
- 示例：
#语法： #关联字段__字段 print(models.Book.objects.values_list("publisher__name"))
- 反向操作
- 对象查找
- 示例：
#语法： #obj.表名_set publisher_obj = models.Publisher.objects.first() # 找到第一个出版社对象 books = publisher_obj.book_set.all() # 找到第一个出版社出版的所有书 titles = books.values_list("title") # 找到第一个出版社出版的所有书的书名
- 字段查找
- 示例：
#语法： #表名__字段 titles = models.Publisher.objects.values_list("book__title")
- related_name 反向查给小写表名起别名
class Publisher(models.Model): name = models.CharField(max_length=32, verbose_name="名称") def __str__(self): return self.name class Book(models.Model): title = models.CharField(max_length=32) pub = models.ForeignKey(Publisher, related_name='books',related_query_name='xxx',on_delete=models.CASCADE) def __str__(self): return self.title 基于对象查询 正向 book_obj.pub ——》 所关联的对象 book_obj.pub_id ——》 所关联的对象id 反向 没有指定related_name pub_obj.book_set ——》 关系管理对象 （类名小写_set） pub_obj.book_set.all（） ——》 所关联的所有对象 指定related_name='books' pub_obj.books ——》 关系管理对象 （类名小写_set） pub_obj.books.all（） ——》 所关联的所有对象 基于字段查询 models.Book.objects.filter(pub__name='xxxxx') 没有指定related_name models.Publisher.objects.filter(book__title='xxxxx') 指定related_name=‘books’ models.Publisher.objects.filter(books__title='xxxxx') 指定related_query_name='book‘ models.Publisher.objects.filter(book__title='xxxxx')
多对多
"关联管理器"是在一对多或者多对多的关联上下文中使用的管理器。 它存在于下面两种情况： 1 外键关系的反向查询 2 多对多关联关系 简单来说就是当 点后面的对象 可能存在多个的时候就可以使用以下的方法。
- 方法
- all()
# all() 所关联的所有的对象 # print(mjj.books.all()) # set 设置多对多的关系 [id,id] [ 对象，对象 ] # mjj.books.set([1,2]) # mjj.books.set(models.Book.objects.filter(pk__in=[1,2,3]))
- create()
#创建一个新的对象，保存对象，并将它添加到关联对象集之中，返回新创建的对象。 import datetime models.Author.objects.first().book_set.create(title="python从入门到放弃", publish_date=datetime.date.today()) # create() # obj = mjj.books.create(title='葵花宝典',pub_id=1) # print(obj) # book__obj = models.Book.objects.get(pk=1) # obj = book__obj.authors.create(name='taibai')
- add()
- 把指定的model对象添加到关联对象集中。
#添加对象 author_objs = models.Author.objects.filter(id__lt=3) models.Book.objects.first().authors.add(*author_objs) # add 添加多对多的关系 (id,id) (对象，对象) # mjj.books.add(4,5) # mjj.books.add(*models.Book.objects.filter(pk__in=[4,5]))
- 添加id
models.Book.objects.first().authors.add(*[1, 2])
- set()
#更新model对象的关联对象。 book_obj = models.Book.objects.first() book_obj.authors.set([2, 3])
- remove()
#从关联对象集中移除执行的model对象 book_obj = models.Book.objects.first() book_obj.authors.remove(3) # remove 删除多对多的关系 (id,id) (对象，对象) # mjj.books.remove(4,5) # mjj.books.remove(*models.Book.objects.filter(pk__in=[4,5]))
- clear()
#从关联对象集中移除一切对象。 book_obj = models.Book.objects.first() book_obj.authors.clear() # clear() 清除所有的多对多关系 # mjj.books.clear()
- 注意
- 对于ForeignKey对象，clear()和remove()方法仅在null=True时存在
- 举个例子：
- ForeignKey字段没设置null=True时
class Book(models.Model): title = models.CharField(max_length=32) publisher = models.ForeignKey(to=Publisher)
- 没有clear()和remove()方法
>>> models.Publisher.objects.first().book_set.clear() Traceback (most recent call last): File "<input>", line 1, in <module> AttributeError: 'RelatedManager' object has no attribute 'clear'
- 当ForeignKey字段设置null=True时
class Book(models.Model): name = models.CharField(max_length=32) publisher = models.ForeignKey(to=Class, null=True)
- 此时就有clear()和remove()方法：
models.Publisher.objects.first().book_set.clear()
- 注意：
对于所有类型的关联字段，add()、create()、remove()和clear(),set()都会马上更新数据库。换句话说，在关联的任何一端， 都不需要再调用save()方法。
聚合(aggregate)查询和分组(annotate)查询
annotate看上去和aggregate很像，反正英语盲的人基本很难区分这两个孪生仔。 实际上，annotate和aggregate用法基本一样，只是返回结果不同。 annotate返回一个QuerySet数据查询对象； aggregate返回一个dict字典。
- 聚合 aggregate
aggregate()是QuerySet 的一个终止子句，意思是说，它返回一个包含一些键值对的字典。 键的名称是聚合值的标识符，值是计算出来的聚合值。键的名称是按照字段和聚合函数的名称自动生成出来的。 用到的内置函数： from django.db.models import Avg, Sum, Max, Min, Count 示例： >>> from django.db.models import Avg, Sum, Max, Min, Count >>> models.Book.objects.all().aggregate(Avg("price")) {'price__avg': 13.233333} 如果你想要为聚合值指定一个名称，可以向聚合子句提供它。 >>> models.Book.objects.aggregate(average_price=Avg('price')) {'average_price': 13.233333} 如果你希望生成不止一个聚合，你可以向aggregate()子句中添加另一个参数。所以，如果你也想知道所有图书价格的最大值和最小值， 可以这样查询： >>> models.Book.objects.all().aggregate(Avg("price"), Max("price"), Min("price")) {'price__avg': 13.233333, 'price__max': Decimal('19.90'), 'price__min': Decimal('9.90')} 总结，aggregate是一种统计拓展方法。aggregate得到结果是一个字典，而且它只能针对一个字段统计计算。
- 分组 annotate
- 假设现在有一张公司职员表 employee
|
id |
name |
age |
salary |
province |
dept |
|---|---|---|---|---|---|
|
1 |
张三 |
23 |
2000 |
河北 |
财务 |
|
2 |
李四 |
34 |
4000 |
山东 |
人事 |
|
3 |
王五 |
45 |
6000 |
北京 |
人事 |
|
4 |
赵六 |
56 |
8000 |
南京 |
教学部 |
#我们使用原生SQL语句，按照部门分组求平均工资： select dept,AVG(salary) from employee group by dept; ORM查询: from django.db.models import Avg Employee.objects.values("dept").annotate(avg=Avg("salary").values("dept", "avg")
- 连表查询的分组
- employee
|
id |
name |
age |
salary |
province |
dept_id |
|---|---|---|---|---|---|
|
1 |
张三 |
23 |
2000 |
河北 |
1 |
|
2 |
李四 |
34 |
4000 |
山东 |
2 |
|
3 |
王五 |
45 |
6000 |
北京 |
2 |
|
4 |
赵六 |
56 |
8000 |
南京 |
3 |
- dept
|
id |
name |
|---|---|
|
1 |
财务部 |
|
2 |
人事部 |
|
3 |
教学部 |
|
4 |
行政部 |
SQL查询： select dept.name,AVG(salary) from employee inner join dept on (employee.dept_id=dept.id) group by dept_id; ORM查询： from django.db.models import Avg models.Dept.objects.annotate(avg=Avg("employee__salary")).values("name", "avg")
F查询 和 Q查询
- F 查询 (针对自己单表中字段的比较和处理)
在上面所有的例子中，我们构造的过滤器都只是将字段值与某个常量做比较。如果我们要对两个字段的值做比较，那该怎么做呢？ Django 提供 F() 来做这样的比较。F() 的实例可以在查询中引用字段，来比较同一个 model 实例中两个不同字段的值。 示例1： 查询评论数大于收藏数的书籍 from django.db.models import F models.Book.objects.filter(commnet_num__gt=F('keep_num')) Django 支持 F() 对象之间以及 F() 对象和常数之间的加减乘除和取模的操作。 models.Book.objects.filter(commnet_num__lt=F('keep_num')*2) 修改操作也可以使用F函数,比如将每一本书的价格提高30元 models.Book.objects.all().update(price=F("price")+30) 引申： 如果要修改char字段咋办？ 如：把所有书名后面加上(第一版) >>> from django.db.models.functions import Concat >>> from django.db.models import Value >>> models.Book.objects.all().update(title=Concat(F("title"), Value("("), Value("第一版"), Value(")")))
- Q 查询
- |(或) &(与) ~(非)
filter() 等方法中的关键字参数查询都是一起进行“AND” 的。 如果你需要执行更复杂的查询（例如OR语句），你可以使用Q对象。 示例1： 查询作者名是小仙女或小魔女的 models.Book.objects.filter(Q(authors__name="小仙女")|Q(authors__name="小魔女")) 你可以组合& 和| 操作符以及使用括号进行分组来编写任意复杂的Q 对象。同时，Q 对象可以使用~ 操作符取反，这允许组合正常的查询和取反(NOT) 查询。 示例：查询作者名字是小仙女并且不是2018年出版的书的书名。 >>> models.Book.objects.filter(Q(author__name="小仙女") & ~Q(publish_date__year=2018)).values_list("title") <QuerySet [('番茄物语',)]> 查询函数可以混合使用Q 对象和关键字参数。所有提供给查询函数的参数（关键字参数或Q 对象）都将"AND”在一起。但是，如果出现Q 对象， 它必须位于所有关键字参数的前面。 例如：查询出版年份是2017或2018，书名中带物语的所有书。 >>> models.Book.objects.filter(Q(publish_date__year=2018) | Q(publish_date__year=2017), title__icontains="物语") <QuerySet [<Book: 番茄物语>, <Book: 香蕉物语>, <Book: 橘子物语>]>
事务
- 事务的四大特性 原子性 持久行 一致性 隔离性
- 局部开启事务
#是数据库运行的最基本单位,原子型操作,保证操作的完整性,如:实际生活中银行转账,先从转账者账户扣除200元,再往收款账户存入200元,实际上就是数据库的操作, 事务就是保证这个操作的完整性,比如转账中间出现了问题,事务会把数据回滚到操作之前的状态. #事务正确书写格式 from django.db import transaction try: with transaction.atomic(): # 进行一系列的ORM操作 models.Publisher.objects.create(name='xxxxx') models.Publisher.objects.create(name='xxx22') except Exception as e : print(e) #注意要是第一条数据已经写入成功,在写入第二条出现错误,事务会把第一条写入信息删除,并抛出异常提示,数据库是有记录的,id主键数会加1,但是没有数据
- 错误写法导致事务无效
- 全局开启事务
""" 在Web应用中，常用的事务处理方式是将每个请求都包裹在一个事务中。这个功能使用起来非常简单， 你只需要将它的配置项ATOMIC_REQUESTS设置为True。 它是这样工作的：当有请求过来时，Django会在调用视图方法前开启一个事务。如果请求却正确处理并正确返回了结果， Django就会提交该事务。否则，Django会回滚该事务。 """
DATABASES = { 'default': { 'ENGINE': 'django.db.backends.mysql', 'NAME': 'mxshop', 'HOST': '127.0.0.1', 'PORT': '3306', 'USER': 'root', 'PASSWORD': '123', 'OPTIONS': { "init_command": "SET default_storage_engine='INNODB'", #'init_command': "SET sql_mode='STRICT_TRANS_TABLES'", #配置开启严格sql模式 } "ATOMIC_REQUESTS": True, #全局开启事务，绑定的是http请求响应整个过程 "AUTOCOMMIT":False, #全局取消自动提交，慎用 }， 'other':{ 'ENGINE': 'django.db.backends.mysql', ...... } #还可以配置其他数据库 } #上面这种方式是统一个http请求对应的所有sql都放在一个事务中执行（要么所有都成功，要么所有都失败）。 是全局性的配置， 如果要对某个http请求放水（然后自定义事务），可以用non_atomic_requests修饰器，那么他就不受事务的管控了
from django.db import transaction @transaction.non_atomic_requests def my_view(request): do_stuff() @transaction.non_atomic_requests(using='other') def my_other_view(request): do_stuff_on_the_other_database()
""" 但是Django 文档中说，不推荐这么做。因为如果将事务跟 HTTP 请求绑定到一起的时， 然而view 是依赖于应用程序对数据库的查询语句效率和数据库当前的锁竞争情况。当流量上来的时候，性能会有影响，知道一下就行了 所以推荐用下面这种方式，通过 transaction.atomic 来更加明确的控制事务。atomic允许我们在执行代码块时，在数据库层面提供原子性保证。 如果代码块成功完成， 相应的变化会被提交到数据库进行commit；如果执行期间遇到异常，则会将该段代码所涉及的所有更改回滚。 """
- 注意
""" 还要注意：如果你配置了全局的事务，它和局部事务可能会产生冲突，你可能会发现你局部的事务完成之后， 如果你的函数里面其他的sql除了问题，也就是没在这个上下文管理器的局部事务包裹范围内的函数里面的其他的sql出现了问题， 你的局部事务也是提交不上的，因为全局会回滚这个请求和响应所涉及到的所有的sql，所以还是建议以后的项目尽量不要配置全局的事务， 通过局部事务来搞定，当然了，看你们的业务场景。 """
QuerySet方法大全
################################################################## # PUBLIC METHODS THAT ALTER ATTRIBUTES AND RETURN A NEW QUERYSET # ################################################################## def all(self) # 获取所有的数据对象 def filter(self, *args, **kwargs) # 条件查询 # 条件可以是：参数，字典，Q def exclude(self, *args, **kwargs) # 条件查询 # 条件可以是：参数，字典，Q def select_related(self, *fields) 性能相关：表之间进行join连表操作，一次性获取关联的数据。 总结： 1. select_related主要针一对一和多对一关系进行优化。 2. select_related使用SQL的JOIN语句进行优化，通过减少SQL查询的次数来进行优化、提高性能。 def prefetch_related(self, *lookups) 性能相关：多表连表操作时速度会慢，使用其执行多次SQL查询在Python代码中实现连表操作。 总结： 1. 对于多对多字段（ManyToManyField）和一对多字段，可以使用prefetch_related()来进行优化。 2. prefetch_related()的优化方式是分别查询每个表，然后用Python处理他们之间的关系。 def annotate(self, *args, **kwargs) # 用于实现聚合group by查询 from django.db.models import Count, Avg, Max, Min, Sum v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')) # SELECT u_id, COUNT(ui) AS `uid` FROM UserInfo GROUP BY u_id v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')).filter(uid__gt=1) # SELECT u_id, COUNT(ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1 v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id',distinct=True)).filter(uid__gt=1) # SELECT u_id, COUNT( DISTINCT ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1 def distinct(self, *field_names) # 用于distinct去重 models.UserInfo.objects.values('nid').distinct() # select distinct nid from userinfo 注：只有在PostgreSQL中才能使用distinct进行去重 def order_by(self, *field_names) # 用于排序 models.UserInfo.objects.all().order_by('-id','age') def extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None) # 构造额外的查询条件或者映射，如：子查询 Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,)) Entry.objects.extra(where=['headline=%s'], params=['Lennon']) Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"]) Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid']) def reverse(self): # 倒序 models.UserInfo.objects.all().order_by('-nid').reverse() # 注：如果存在order_by，reverse则是倒序，如果多个排序则一一倒序 def defer(self, *fields): models.UserInfo.objects.defer('username','id') 或 models.UserInfo.objects.filter(...).defer('username','id') #映射中排除某列数据 def only(self, *fields): #仅取某个表中的数据 models.UserInfo.objects.only('username','id') 或 models.UserInfo.objects.filter(...).only('username','id') def using(self, alias): 指定使用的数据库，参数为别名（setting中的设置） ################################################## # PUBLIC METHODS THAT RETURN A QUERYSET SUBCLASS # ################################################## def raw(self, raw_query, params=None, translations=None, using=None): # 执行原生SQL models.UserInfo.objects.raw('select * from userinfo') # 如果SQL是其他表时，必须将名字设置为当前UserInfo对象的主键列名 models.UserInfo.objects.raw('select id as nid from 其他表') # 为原生SQL设置参数 models.UserInfo.objects.raw('select id as nid from userinfo where nid>%s', params=[12,]) # 将获取的到列名转换为指定列名 name_map = {'first': 'first_name', 'last': 'last_name', 'bd': 'birth_date', 'pk': 'id'} Person.objects.raw('SELECT * FROM some_other_table', translations=name_map) # 指定数据库 models.UserInfo.objects.raw('select * from userinfo', using="default") ################### 原生SQL ################### from django.db import connection, connections cursor = connection.cursor() # cursor = connections['default'].cursor() cursor.execute("""SELECT * from auth_user where id = %s""", [1]) row = cursor.fetchone() # fetchall()/fetchmany(..) def values(self, *fields): # 获取每行数据为字典格式 def values_list(self, *fields, **kwargs): # 获取每行数据为元祖 def dates(self, field_name, kind, order='ASC'): # 根据时间进行某一部分进行去重查找并截取指定内容 # kind只能是："year"（年）, "month"（年-月）, "day"（年-月-日） # order只能是："ASC" "DESC" # 并获取转换后的时间 - year : 年-01-01 - month: 年-月-01 - day : 年-月-日 models.DatePlus.objects.dates('ctime','day','DESC') def datetimes(self, field_name, kind, order='ASC', tzinfo=None): # 根据时间进行某一部分进行去重查找并截取指定内容，将时间转换为指定时区时间 # kind只能是 "year", "month", "day", "hour", "minute", "second" # order只能是："ASC" "DESC" # tzinfo时区对象 models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.UTC) models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.timezone('Asia/Shanghai')) """ pip3 install pytz import pytz pytz.all_timezones pytz.timezone(‘Asia/Shanghai’) """ def none(self): # 空QuerySet对象 #################################### # METHODS THAT DO DATABASE QUERIES # #################################### def aggregate(self, *args, **kwargs): # 聚合函数，获取字典类型聚合结果 from django.db.models import Count, Avg, Max, Min, Sum result = models.UserInfo.objects.aggregate(k=Count('u_id', distinct=True), n=Count('nid')) ===> {'k': 3, 'n': 4} def count(self): # 获取个数 def get(self, *args, **kwargs): # 获取单个对象 def create(self, **kwargs): # 创建对象 def bulk_create(self, objs, batch_size=None): # 批量插入 # batch_size表示一次插入的个数 objs = [ models.DDD(name='r11'), models.DDD(name='r22') ] models.DDD.objects.bulk_create(objs, 10) def get_or_create(self, defaults=None, **kwargs): # 如果存在，则获取，否则，创建 # defaults 指定创建时，其他字段的值 obj, created = models.UserInfo.objects.get_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 2}) def update_or_create(self, defaults=None, **kwargs): # 如果存在，则更新，否则，创建 # defaults 指定创建时或更新时的其他字段 obj, created = models.UserInfo.objects.update_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 1}) def first(self): # 获取第一个 def last(self): # 获取最后一个 def in_bulk(self, id_list=None): # 根据主键ID进行查找 id_list = [11,21,31] models.DDD.objects.in_bulk(id_list) def delete(self): # 删除 def update(self, **kwargs): # 更新 def exists(self): # 是否有结果
Django ORM执行原生SQL(了解)
# extra # 在QuerySet的基础上继续执行子语句 # extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None) # select和select_params是一组，where和params是一组，tables用来设置from哪个表 # Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,)) # Entry.objects.extra(where=['headline=%s'], params=['Lennon']) # Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"]) # Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid']) 举个例子： models.UserInfo.objects.extra( select={'newid':'select count(1) from app01_usertype where id>%s'}, select_params=[1,], where = ['age>%s'], params=[18,], order_by=['-age'], tables=['app01_usertype'] ) """ select app01_userinfo.id, (select count(1) from app01_usertype where id>1) as newid from app01_userinfo,app01_usertype where app01_userinfo.age > 18 order by app01_userinfo.age desc """ # 执行原生SQL # 更高灵活度的方式执行原生SQL语句 # from django.db import connection, connections # cursor = connection.cursor() # cursor = connections['default'].cursor() # cursor.execute("""SELECT * from auth_user where id = %s""", [1]) # row = cursor.fetchone()
Django终端打印SQL语句
- 在Django项目的settings.py文件中，在最后复制粘贴如下代码：
LOGGING = { 'version': 1, 'disable_existing_loggers': False, 'handlers': { 'console':{ 'level':'DEBUG', 'class':'logging.StreamHandler', }, }, 'loggers': { 'django.db.backends': { 'handlers': ['console'], 'propagate': True, 'level':'DEBUG', }, } } #即为你的Django项目配置上一个名为django.db.backends的logger实例即可查看翻译后的SQL语句。
在Python脚本中调用Django环境
- 第一种方法
- 第二种方法 创建py文件复制下面代码
import os #if __name__ == '__main__': #os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings") os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings") import django django.setup() from app01 import models books = models.Book.objects.all() print(books) #后边写可被执行的ORM或原生sql语句
django控制台写入数据(交互式无法保存记录)
作 者：郭楷丰
