Lines Matching refs:bo_gem
427 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_dump_validation_list() local
429 if (bo_gem->relocs == NULL && bo_gem->softpin_target == NULL) { in drm_intel_gem_dump_validation_list()
430 DBG("%2d: %d %s(%s)\n", i, bo_gem->gem_handle, in drm_intel_gem_dump_validation_list()
431 bo_gem->is_softpin ? "*" : "", in drm_intel_gem_dump_validation_list()
432 bo_gem->name); in drm_intel_gem_dump_validation_list()
436 for (j = 0; j < bo_gem->reloc_count; j++) { in drm_intel_gem_dump_validation_list()
437 drm_intel_bo *target_bo = bo_gem->reloc_target_info[j].bo; in drm_intel_gem_dump_validation_list()
444 bo_gem->gem_handle, in drm_intel_gem_dump_validation_list()
445 bo_gem->is_softpin ? "*" : "", in drm_intel_gem_dump_validation_list()
446 bo_gem->name, in drm_intel_gem_dump_validation_list()
447 upper_32_bits(bo_gem->relocs[j].offset), in drm_intel_gem_dump_validation_list()
448 lower_32_bits(bo_gem->relocs[j].offset), in drm_intel_gem_dump_validation_list()
453 bo_gem->relocs[j].delta); in drm_intel_gem_dump_validation_list()
456 for (j = 0; j < bo_gem->softpin_target_count; j++) { in drm_intel_gem_dump_validation_list()
457 drm_intel_bo *target_bo = bo_gem->softpin_target[j]; in drm_intel_gem_dump_validation_list()
463 bo_gem->gem_handle, in drm_intel_gem_dump_validation_list()
464 bo_gem->is_softpin ? "*" : "", in drm_intel_gem_dump_validation_list()
465 bo_gem->name, in drm_intel_gem_dump_validation_list()
477 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_reference() local
479 atomic_inc(&bo_gem->refcount); in drm_intel_gem_bo_reference()
494 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_add_validate_buffer() local
497 if (bo_gem->validate_index != -1) in drm_intel_add_validate_buffer()
517 bo_gem->validate_index = index; in drm_intel_add_validate_buffer()
519 bufmgr_gem->exec_objects[index].handle = bo_gem->gem_handle; in drm_intel_add_validate_buffer()
520 bufmgr_gem->exec_objects[index].relocation_count = bo_gem->reloc_count; in drm_intel_add_validate_buffer()
521 bufmgr_gem->exec_objects[index].relocs_ptr = (uintptr_t) bo_gem->relocs; in drm_intel_add_validate_buffer()
532 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *)bo; in drm_intel_add_validate_buffer2() local
538 if (bo_gem->use_48b_address_range) in drm_intel_add_validate_buffer2()
540 if (bo_gem->is_softpin) in drm_intel_add_validate_buffer2()
543 if (bo_gem->validate_index != -1) { in drm_intel_add_validate_buffer2()
544 bufmgr_gem->exec2_objects[bo_gem->validate_index].flags |= flags; in drm_intel_add_validate_buffer2()
565 bo_gem->validate_index = index; in drm_intel_add_validate_buffer2()
567 bufmgr_gem->exec2_objects[index].handle = bo_gem->gem_handle; in drm_intel_add_validate_buffer2()
568 bufmgr_gem->exec2_objects[index].relocation_count = bo_gem->reloc_count; in drm_intel_add_validate_buffer2()
569 bufmgr_gem->exec2_objects[index].relocs_ptr = (uintptr_t)bo_gem->relocs; in drm_intel_add_validate_buffer2()
571 bufmgr_gem->exec2_objects[index].offset = bo_gem->is_softpin ? in drm_intel_add_validate_buffer2()
585 drm_intel_bo_gem *bo_gem, in drm_intel_bo_gem_set_in_aperture_size() argument
590 assert(!bo_gem->used_as_reloc_target); in drm_intel_bo_gem_set_in_aperture_size()
598 size = bo_gem->bo.size; in drm_intel_bo_gem_set_in_aperture_size()
599 if (bufmgr_gem->gen < 4 && bo_gem->tiling_mode != I915_TILING_NONE) { in drm_intel_bo_gem_set_in_aperture_size()
617 bo_gem->reloc_tree_size = size + alignment; in drm_intel_bo_gem_set_in_aperture_size()
623 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_setup_reloc_list() local
630 bo_gem->relocs = malloc(max_relocs * in drm_intel_setup_reloc_list()
632 bo_gem->reloc_target_info = malloc(max_relocs * in drm_intel_setup_reloc_list()
634 if (bo_gem->relocs == NULL || bo_gem->reloc_target_info == NULL) { in drm_intel_setup_reloc_list()
635 bo_gem->has_error = true; in drm_intel_setup_reloc_list()
637 free (bo_gem->relocs); in drm_intel_setup_reloc_list()
638 bo_gem->relocs = NULL; in drm_intel_setup_reloc_list()
640 free (bo_gem->reloc_target_info); in drm_intel_setup_reloc_list()
641 bo_gem->reloc_target_info = NULL; in drm_intel_setup_reloc_list()
653 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_busy() local
657 if (bo_gem->reusable && bo_gem->idle) in drm_intel_gem_bo_busy()
661 busy.handle = bo_gem->gem_handle; in drm_intel_gem_bo_busy()
665 bo_gem->idle = !busy.busy; in drm_intel_gem_bo_busy()
675 drm_intel_bo_gem *bo_gem, int state) in drm_intel_gem_bo_madvise_internal() argument
680 madv.handle = bo_gem->gem_handle; in drm_intel_gem_bo_madvise_internal()
703 drm_intel_bo_gem *bo_gem; in drm_intel_gem_bo_cache_purge_bucket() local
705 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, in drm_intel_gem_bo_cache_purge_bucket()
708 (bufmgr_gem, bo_gem, I915_MADV_DONTNEED)) in drm_intel_gem_bo_cache_purge_bucket()
711 DRMLISTDEL(&bo_gem->head); in drm_intel_gem_bo_cache_purge_bucket()
712 drm_intel_gem_bo_free(&bo_gem->bo); in drm_intel_gem_bo_cache_purge_bucket()
726 drm_intel_bo_gem *bo_gem; in drm_intel_gem_bo_alloc_internal() local
761 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, in drm_intel_gem_bo_alloc_internal()
763 DRMLISTDEL(&bo_gem->head); in drm_intel_gem_bo_alloc_internal()
765 bo_gem->bo.align = alignment; in drm_intel_gem_bo_alloc_internal()
775 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, in drm_intel_gem_bo_alloc_internal()
777 if (!drm_intel_gem_bo_busy(&bo_gem->bo)) { in drm_intel_gem_bo_alloc_internal()
779 DRMLISTDEL(&bo_gem->head); in drm_intel_gem_bo_alloc_internal()
785 (bufmgr_gem, bo_gem, I915_MADV_WILLNEED)) { in drm_intel_gem_bo_alloc_internal()
786 drm_intel_gem_bo_free(&bo_gem->bo); in drm_intel_gem_bo_alloc_internal()
792 if (drm_intel_gem_bo_set_tiling_internal(&bo_gem->bo, in drm_intel_gem_bo_alloc_internal()
795 drm_intel_gem_bo_free(&bo_gem->bo); in drm_intel_gem_bo_alloc_internal()
805 bo_gem = calloc(1, sizeof(*bo_gem)); in drm_intel_gem_bo_alloc_internal()
806 if (!bo_gem) in drm_intel_gem_bo_alloc_internal()
809 bo_gem->bo.size = bo_size; in drm_intel_gem_bo_alloc_internal()
817 bo_gem->gem_handle = create.handle; in drm_intel_gem_bo_alloc_internal()
818 bo_gem->bo.handle = bo_gem->gem_handle; in drm_intel_gem_bo_alloc_internal()
820 free(bo_gem); in drm_intel_gem_bo_alloc_internal()
823 bo_gem->bo.bufmgr = bufmgr; in drm_intel_gem_bo_alloc_internal()
824 bo_gem->bo.align = alignment; in drm_intel_gem_bo_alloc_internal()
826 bo_gem->tiling_mode = I915_TILING_NONE; in drm_intel_gem_bo_alloc_internal()
827 bo_gem->swizzle_mode = I915_BIT_6_SWIZZLE_NONE; in drm_intel_gem_bo_alloc_internal()
828 bo_gem->stride = 0; in drm_intel_gem_bo_alloc_internal()
832 DRMINITLISTHEAD(&bo_gem->name_list); in drm_intel_gem_bo_alloc_internal()
833 DRMINITLISTHEAD(&bo_gem->vma_list); in drm_intel_gem_bo_alloc_internal()
834 if (drm_intel_gem_bo_set_tiling_internal(&bo_gem->bo, in drm_intel_gem_bo_alloc_internal()
837 drm_intel_gem_bo_free(&bo_gem->bo); in drm_intel_gem_bo_alloc_internal()
842 bo_gem->name = name; in drm_intel_gem_bo_alloc_internal()
843 atomic_set(&bo_gem->refcount, 1); in drm_intel_gem_bo_alloc_internal()
844 bo_gem->validate_index = -1; in drm_intel_gem_bo_alloc_internal()
845 bo_gem->reloc_tree_fences = 0; in drm_intel_gem_bo_alloc_internal()
846 bo_gem->used_as_reloc_target = false; in drm_intel_gem_bo_alloc_internal()
847 bo_gem->has_error = false; in drm_intel_gem_bo_alloc_internal()
848 bo_gem->reusable = true; in drm_intel_gem_bo_alloc_internal()
849 bo_gem->use_48b_address_range = false; in drm_intel_gem_bo_alloc_internal()
851 drm_intel_bo_gem_set_in_aperture_size(bufmgr_gem, bo_gem, alignment); in drm_intel_gem_bo_alloc_internal()
854 bo_gem->gem_handle, bo_gem->name, size); in drm_intel_gem_bo_alloc_internal()
856 return &bo_gem->bo; in drm_intel_gem_bo_alloc_internal()
943 drm_intel_bo_gem *bo_gem; in drm_intel_gem_bo_alloc_userptr() local
953 bo_gem = calloc(1, sizeof(*bo_gem)); in drm_intel_gem_bo_alloc_userptr()
954 if (!bo_gem) in drm_intel_gem_bo_alloc_userptr()
957 bo_gem->bo.size = size; in drm_intel_gem_bo_alloc_userptr()
971 free(bo_gem); in drm_intel_gem_bo_alloc_userptr()
975 bo_gem->gem_handle = userptr.handle; in drm_intel_gem_bo_alloc_userptr()
976 bo_gem->bo.handle = bo_gem->gem_handle; in drm_intel_gem_bo_alloc_userptr()
977 bo_gem->bo.bufmgr = bufmgr; in drm_intel_gem_bo_alloc_userptr()
978 bo_gem->is_userptr = true; in drm_intel_gem_bo_alloc_userptr()
979 bo_gem->bo.virtual = addr; in drm_intel_gem_bo_alloc_userptr()
981 bo_gem->user_virtual = addr; in drm_intel_gem_bo_alloc_userptr()
982 bo_gem->tiling_mode = I915_TILING_NONE; in drm_intel_gem_bo_alloc_userptr()
983 bo_gem->swizzle_mode = I915_BIT_6_SWIZZLE_NONE; in drm_intel_gem_bo_alloc_userptr()
984 bo_gem->stride = 0; in drm_intel_gem_bo_alloc_userptr()
986 DRMINITLISTHEAD(&bo_gem->name_list); in drm_intel_gem_bo_alloc_userptr()
987 DRMINITLISTHEAD(&bo_gem->vma_list); in drm_intel_gem_bo_alloc_userptr()
989 bo_gem->name = name; in drm_intel_gem_bo_alloc_userptr()
990 atomic_set(&bo_gem->refcount, 1); in drm_intel_gem_bo_alloc_userptr()
991 bo_gem->validate_index = -1; in drm_intel_gem_bo_alloc_userptr()
992 bo_gem->reloc_tree_fences = 0; in drm_intel_gem_bo_alloc_userptr()
993 bo_gem->used_as_reloc_target = false; in drm_intel_gem_bo_alloc_userptr()
994 bo_gem->has_error = false; in drm_intel_gem_bo_alloc_userptr()
995 bo_gem->reusable = false; in drm_intel_gem_bo_alloc_userptr()
996 bo_gem->use_48b_address_range = false; in drm_intel_gem_bo_alloc_userptr()
998 drm_intel_bo_gem_set_in_aperture_size(bufmgr_gem, bo_gem, 0); in drm_intel_gem_bo_alloc_userptr()
1002 addr, bo_gem->gem_handle, bo_gem->name, in drm_intel_gem_bo_alloc_userptr()
1005 return &bo_gem->bo; in drm_intel_gem_bo_alloc_userptr()
1084 drm_intel_bo_gem *bo_gem; in drm_intel_bo_gem_create_from_name() local
1100 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, list, name_list); in drm_intel_bo_gem_create_from_name()
1101 if (bo_gem->global_name == handle) { in drm_intel_bo_gem_create_from_name()
1102 drm_intel_gem_bo_reference(&bo_gem->bo); in drm_intel_bo_gem_create_from_name()
1104 return &bo_gem->bo; in drm_intel_bo_gem_create_from_name()
1126 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, list, name_list); in drm_intel_bo_gem_create_from_name()
1127 if (bo_gem->gem_handle == open_arg.handle) { in drm_intel_bo_gem_create_from_name()
1128 drm_intel_gem_bo_reference(&bo_gem->bo); in drm_intel_bo_gem_create_from_name()
1130 return &bo_gem->bo; in drm_intel_bo_gem_create_from_name()
1134 bo_gem = calloc(1, sizeof(*bo_gem)); in drm_intel_bo_gem_create_from_name()
1135 if (!bo_gem) { in drm_intel_bo_gem_create_from_name()
1140 bo_gem->bo.size = open_arg.size; in drm_intel_bo_gem_create_from_name()
1141 bo_gem->bo.offset = 0; in drm_intel_bo_gem_create_from_name()
1142 bo_gem->bo.offset64 = 0; in drm_intel_bo_gem_create_from_name()
1143 bo_gem->bo.virtual = NULL; in drm_intel_bo_gem_create_from_name()
1144 bo_gem->bo.bufmgr = bufmgr; in drm_intel_bo_gem_create_from_name()
1145 bo_gem->name = name; in drm_intel_bo_gem_create_from_name()
1146 atomic_set(&bo_gem->refcount, 1); in drm_intel_bo_gem_create_from_name()
1147 bo_gem->validate_index = -1; in drm_intel_bo_gem_create_from_name()
1148 bo_gem->gem_handle = open_arg.handle; in drm_intel_bo_gem_create_from_name()
1149 bo_gem->bo.handle = open_arg.handle; in drm_intel_bo_gem_create_from_name()
1150 bo_gem->global_name = handle; in drm_intel_bo_gem_create_from_name()
1151 bo_gem->reusable = false; in drm_intel_bo_gem_create_from_name()
1152 bo_gem->use_48b_address_range = false; in drm_intel_bo_gem_create_from_name()
1155 get_tiling.handle = bo_gem->gem_handle; in drm_intel_bo_gem_create_from_name()
1160 drm_intel_gem_bo_unreference(&bo_gem->bo); in drm_intel_bo_gem_create_from_name()
1164 bo_gem->tiling_mode = get_tiling.tiling_mode; in drm_intel_bo_gem_create_from_name()
1165 bo_gem->swizzle_mode = get_tiling.swizzle_mode; in drm_intel_bo_gem_create_from_name()
1167 drm_intel_bo_gem_set_in_aperture_size(bufmgr_gem, bo_gem, 0); in drm_intel_bo_gem_create_from_name()
1169 DRMINITLISTHEAD(&bo_gem->vma_list); in drm_intel_bo_gem_create_from_name()
1170 DRMLISTADDTAIL(&bo_gem->name_list, &bufmgr_gem->named); in drm_intel_bo_gem_create_from_name()
1172 DBG("bo_create_from_handle: %d (%s)\n", handle, bo_gem->name); in drm_intel_bo_gem_create_from_name()
1174 return &bo_gem->bo; in drm_intel_bo_gem_create_from_name()
1181 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_free() local
1185 DRMLISTDEL(&bo_gem->vma_list); in drm_intel_gem_bo_free()
1186 if (bo_gem->mem_virtual) { in drm_intel_gem_bo_free()
1187 VG(VALGRIND_FREELIKE_BLOCK(bo_gem->mem_virtual, 0)); in drm_intel_gem_bo_free()
1188 drm_munmap(bo_gem->mem_virtual, bo_gem->bo.size); in drm_intel_gem_bo_free()
1191 if (bo_gem->gtt_virtual) { in drm_intel_gem_bo_free()
1192 drm_munmap(bo_gem->gtt_virtual, bo_gem->bo.size); in drm_intel_gem_bo_free()
1198 close.handle = bo_gem->gem_handle; in drm_intel_gem_bo_free()
1202 bo_gem->gem_handle, bo_gem->name, strerror(errno)); in drm_intel_gem_bo_free()
1211 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_mark_mmaps_incoherent() local
1213 if (bo_gem->mem_virtual) in drm_intel_gem_bo_mark_mmaps_incoherent()
1214 VALGRIND_MAKE_MEM_NOACCESS(bo_gem->mem_virtual, bo->size); in drm_intel_gem_bo_mark_mmaps_incoherent()
1216 if (bo_gem->gtt_virtual) in drm_intel_gem_bo_mark_mmaps_incoherent()
1217 VALGRIND_MAKE_MEM_NOACCESS(bo_gem->gtt_virtual, bo->size); in drm_intel_gem_bo_mark_mmaps_incoherent()
1235 drm_intel_bo_gem *bo_gem; in drm_intel_gem_cleanup_bo_cache() local
1237 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, in drm_intel_gem_cleanup_bo_cache()
1239 if (time - bo_gem->free_time <= 1) in drm_intel_gem_cleanup_bo_cache()
1242 DRMLISTDEL(&bo_gem->head); in drm_intel_gem_cleanup_bo_cache()
1244 drm_intel_gem_bo_free(&bo_gem->bo); in drm_intel_gem_cleanup_bo_cache()
1267 drm_intel_bo_gem *bo_gem; in drm_intel_gem_bo_purge_vma_cache() local
1269 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, in drm_intel_gem_bo_purge_vma_cache()
1272 assert(bo_gem->map_count == 0); in drm_intel_gem_bo_purge_vma_cache()
1273 DRMLISTDELINIT(&bo_gem->vma_list); in drm_intel_gem_bo_purge_vma_cache()
1275 if (bo_gem->mem_virtual) { in drm_intel_gem_bo_purge_vma_cache()
1276 drm_munmap(bo_gem->mem_virtual, bo_gem->bo.size); in drm_intel_gem_bo_purge_vma_cache()
1277 bo_gem->mem_virtual = NULL; in drm_intel_gem_bo_purge_vma_cache()
1280 if (bo_gem->gtt_virtual) { in drm_intel_gem_bo_purge_vma_cache()
1281 drm_munmap(bo_gem->gtt_virtual, bo_gem->bo.size); in drm_intel_gem_bo_purge_vma_cache()
1282 bo_gem->gtt_virtual = NULL; in drm_intel_gem_bo_purge_vma_cache()
1289 drm_intel_bo_gem *bo_gem) in drm_intel_gem_bo_close_vma() argument
1292 DRMLISTADDTAIL(&bo_gem->vma_list, &bufmgr_gem->vma_cache); in drm_intel_gem_bo_close_vma()
1293 if (bo_gem->mem_virtual) in drm_intel_gem_bo_close_vma()
1295 if (bo_gem->gtt_virtual) in drm_intel_gem_bo_close_vma()
1301 drm_intel_bo_gem *bo_gem) in drm_intel_gem_bo_open_vma() argument
1304 DRMLISTDEL(&bo_gem->vma_list); in drm_intel_gem_bo_open_vma()
1305 if (bo_gem->mem_virtual) in drm_intel_gem_bo_open_vma()
1307 if (bo_gem->gtt_virtual) in drm_intel_gem_bo_open_vma()
1316 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_unreference_final() local
1321 for (i = 0; i < bo_gem->reloc_count; i++) { in drm_intel_gem_bo_unreference_final()
1322 if (bo_gem->reloc_target_info[i].bo != bo) { in drm_intel_gem_bo_unreference_final()
1323 drm_intel_gem_bo_unreference_locked_timed(bo_gem-> in drm_intel_gem_bo_unreference_final()
1328 for (i = 0; i < bo_gem->softpin_target_count; i++) in drm_intel_gem_bo_unreference_final()
1329 drm_intel_gem_bo_unreference_locked_timed(bo_gem->softpin_target[i], in drm_intel_gem_bo_unreference_final()
1331 bo_gem->reloc_count = 0; in drm_intel_gem_bo_unreference_final()
1332 bo_gem->used_as_reloc_target = false; in drm_intel_gem_bo_unreference_final()
1333 bo_gem->softpin_target_count = 0; in drm_intel_gem_bo_unreference_final()
1336 bo_gem->gem_handle, bo_gem->name); in drm_intel_gem_bo_unreference_final()
1339 if (bo_gem->reloc_target_info) { in drm_intel_gem_bo_unreference_final()
1340 free(bo_gem->reloc_target_info); in drm_intel_gem_bo_unreference_final()
1341 bo_gem->reloc_target_info = NULL; in drm_intel_gem_bo_unreference_final()
1343 if (bo_gem->relocs) { in drm_intel_gem_bo_unreference_final()
1344 free(bo_gem->relocs); in drm_intel_gem_bo_unreference_final()
1345 bo_gem->relocs = NULL; in drm_intel_gem_bo_unreference_final()
1347 if (bo_gem->softpin_target) { in drm_intel_gem_bo_unreference_final()
1348 free(bo_gem->softpin_target); in drm_intel_gem_bo_unreference_final()
1349 bo_gem->softpin_target = NULL; in drm_intel_gem_bo_unreference_final()
1350 bo_gem->softpin_target_size = 0; in drm_intel_gem_bo_unreference_final()
1354 if (bo_gem->map_count) { in drm_intel_gem_bo_unreference_final()
1355 DBG("bo freed with non-zero map-count %d\n", bo_gem->map_count); in drm_intel_gem_bo_unreference_final()
1356 bo_gem->map_count = 0; in drm_intel_gem_bo_unreference_final()
1357 drm_intel_gem_bo_close_vma(bufmgr_gem, bo_gem); in drm_intel_gem_bo_unreference_final()
1361 DRMLISTDEL(&bo_gem->name_list); in drm_intel_gem_bo_unreference_final()
1365 if (bufmgr_gem->bo_reuse && bo_gem->reusable && bucket != NULL && in drm_intel_gem_bo_unreference_final()
1366 drm_intel_gem_bo_madvise_internal(bufmgr_gem, bo_gem, in drm_intel_gem_bo_unreference_final()
1368 bo_gem->free_time = time; in drm_intel_gem_bo_unreference_final()
1370 bo_gem->name = NULL; in drm_intel_gem_bo_unreference_final()
1371 bo_gem->validate_index = -1; in drm_intel_gem_bo_unreference_final()
1373 DRMLISTADDTAIL(&bo_gem->head, &bucket->head); in drm_intel_gem_bo_unreference_final()
1382 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_unreference_locked_timed() local
1384 assert(atomic_read(&bo_gem->refcount) > 0); in drm_intel_gem_bo_unreference_locked_timed()
1385 if (atomic_dec_and_test(&bo_gem->refcount)) in drm_intel_gem_bo_unreference_locked_timed()
1391 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_unreference() local
1393 assert(atomic_read(&bo_gem->refcount) > 0); in drm_intel_gem_bo_unreference()
1395 if (atomic_add_unless(&bo_gem->refcount, -1, 1)) { in drm_intel_gem_bo_unreference()
1404 if (atomic_dec_and_test(&bo_gem->refcount)) { in drm_intel_gem_bo_unreference()
1416 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_map() local
1420 if (bo_gem->is_userptr) { in drm_intel_gem_bo_map()
1422 bo->virtual = bo_gem->user_virtual; in drm_intel_gem_bo_map()
1428 if (bo_gem->map_count++ == 0) in drm_intel_gem_bo_map()
1429 drm_intel_gem_bo_open_vma(bufmgr_gem, bo_gem); in drm_intel_gem_bo_map()
1431 if (!bo_gem->mem_virtual) { in drm_intel_gem_bo_map()
1435 bo_gem->gem_handle, bo_gem->name, bo_gem->map_count); in drm_intel_gem_bo_map()
1438 mmap_arg.handle = bo_gem->gem_handle; in drm_intel_gem_bo_map()
1446 __FILE__, __LINE__, bo_gem->gem_handle, in drm_intel_gem_bo_map()
1447 bo_gem->name, strerror(errno)); in drm_intel_gem_bo_map()
1448 if (--bo_gem->map_count == 0) in drm_intel_gem_bo_map()
1449 drm_intel_gem_bo_close_vma(bufmgr_gem, bo_gem); in drm_intel_gem_bo_map()
1454 bo_gem->mem_virtual = (void *)(uintptr_t) mmap_arg.addr_ptr; in drm_intel_gem_bo_map()
1456 DBG("bo_map: %d (%s) -> %p\n", bo_gem->gem_handle, bo_gem->name, in drm_intel_gem_bo_map()
1457 bo_gem->mem_virtual); in drm_intel_gem_bo_map()
1458 bo->virtual = bo_gem->mem_virtual; in drm_intel_gem_bo_map()
1461 set_domain.handle = bo_gem->gem_handle; in drm_intel_gem_bo_map()
1472 __FILE__, __LINE__, bo_gem->gem_handle, in drm_intel_gem_bo_map()
1477 bo_gem->mapped_cpu_write = true; in drm_intel_gem_bo_map()
1480 VG(VALGRIND_MAKE_MEM_DEFINED(bo_gem->mem_virtual, bo->size)); in drm_intel_gem_bo_map()
1490 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in map_gtt() local
1493 if (bo_gem->is_userptr) in map_gtt()
1496 if (bo_gem->map_count++ == 0) in map_gtt()
1497 drm_intel_gem_bo_open_vma(bufmgr_gem, bo_gem); in map_gtt()
1500 if (bo_gem->gtt_virtual == NULL) { in map_gtt()
1504 bo_gem->gem_handle, bo_gem->name, bo_gem->map_count); in map_gtt()
1507 mmap_arg.handle = bo_gem->gem_handle; in map_gtt()
1517 bo_gem->gem_handle, bo_gem->name, in map_gtt()
1519 if (--bo_gem->map_count == 0) in map_gtt()
1520 drm_intel_gem_bo_close_vma(bufmgr_gem, bo_gem); in map_gtt()
1525 bo_gem->gtt_virtual = drm_mmap(0, bo->size, PROT_READ | PROT_WRITE, in map_gtt()
1528 if (bo_gem->gtt_virtual == MAP_FAILED) { in map_gtt()
1529 bo_gem->gtt_virtual = NULL; in map_gtt()
1533 bo_gem->gem_handle, bo_gem->name, in map_gtt()
1535 if (--bo_gem->map_count == 0) in map_gtt()
1536 drm_intel_gem_bo_close_vma(bufmgr_gem, bo_gem); in map_gtt()
1541 bo->virtual = bo_gem->gtt_virtual; in map_gtt()
1543 DBG("bo_map_gtt: %d (%s) -> %p\n", bo_gem->gem_handle, bo_gem->name, in map_gtt()
1544 bo_gem->gtt_virtual); in map_gtt()
1553 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_map_gtt() local
1575 set_domain.handle = bo_gem->gem_handle; in drm_intel_gem_bo_map_gtt()
1583 __FILE__, __LINE__, bo_gem->gem_handle, in drm_intel_gem_bo_map_gtt()
1588 VG(VALGRIND_MAKE_MEM_DEFINED(bo_gem->gtt_virtual, bo->size)); in drm_intel_gem_bo_map_gtt()
1613 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_map_unsynchronized() local
1632 VG(VALGRIND_MAKE_MEM_DEFINED(bo_gem->gtt_virtual, bo->size)); in drm_intel_gem_bo_map_unsynchronized()
1643 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_unmap() local
1649 if (bo_gem->is_userptr) in drm_intel_gem_bo_unmap()
1656 if (bo_gem->map_count <= 0) { in drm_intel_gem_bo_unmap()
1665 if (bo_gem->mapped_cpu_write) { in drm_intel_gem_bo_unmap()
1674 sw_finish.handle = bo_gem->gem_handle; in drm_intel_gem_bo_unmap()
1680 bo_gem->mapped_cpu_write = false; in drm_intel_gem_bo_unmap()
1687 if (--bo_gem->map_count == 0) { in drm_intel_gem_bo_unmap()
1688 drm_intel_gem_bo_close_vma(bufmgr_gem, bo_gem); in drm_intel_gem_bo_unmap()
1708 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_subdata() local
1712 if (bo_gem->is_userptr) in drm_intel_gem_bo_subdata()
1716 pwrite.handle = bo_gem->gem_handle; in drm_intel_gem_bo_subdata()
1726 __FILE__, __LINE__, bo_gem->gem_handle, (int)offset, in drm_intel_gem_bo_subdata()
1763 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_get_subdata() local
1767 if (bo_gem->is_userptr) in drm_intel_gem_bo_get_subdata()
1771 pread.handle = bo_gem->gem_handle; in drm_intel_gem_bo_get_subdata()
1781 __FILE__, __LINE__, bo_gem->gem_handle, (int)offset, in drm_intel_gem_bo_get_subdata()
1826 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_wait() local
1842 wait.bo_handle = bo_gem->gem_handle; in drm_intel_gem_bo_wait()
1862 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_start_gtt_access() local
1867 set_domain.handle = bo_gem->gem_handle; in drm_intel_gem_bo_start_gtt_access()
1875 __FILE__, __LINE__, bo_gem->gem_handle, in drm_intel_gem_bo_start_gtt_access()
1898 drm_intel_bo_gem *bo_gem; in drm_intel_bufmgr_gem_destroy() local
1901 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, in drm_intel_bufmgr_gem_destroy()
1903 DRMLISTDEL(&bo_gem->head); in drm_intel_bufmgr_gem_destroy()
1905 drm_intel_gem_bo_free(&bo_gem->bo); in drm_intel_bufmgr_gem_destroy()
1940 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in do_bo_emit_reloc() local
1944 if (bo_gem->has_error) in do_bo_emit_reloc()
1948 bo_gem->has_error = true; in do_bo_emit_reloc()
1961 if (bo_gem->relocs == NULL && drm_intel_setup_reloc_list(bo)) in do_bo_emit_reloc()
1965 assert(bo_gem->reloc_count < bufmgr_gem->max_relocs); in do_bo_emit_reloc()
1982 assert(!bo_gem->used_as_reloc_target); in do_bo_emit_reloc()
1983 if (target_bo_gem != bo_gem) { in do_bo_emit_reloc()
1985 bo_gem->reloc_tree_size += target_bo_gem->reloc_tree_size; in do_bo_emit_reloc()
1986 bo_gem->reloc_tree_fences += target_bo_gem->reloc_tree_fences; in do_bo_emit_reloc()
1989 bo_gem->reloc_target_info[bo_gem->reloc_count].bo = target_bo; in do_bo_emit_reloc()
1993 bo_gem->reloc_target_info[bo_gem->reloc_count].flags = in do_bo_emit_reloc()
1996 bo_gem->reloc_target_info[bo_gem->reloc_count].flags = 0; in do_bo_emit_reloc()
1998 bo_gem->relocs[bo_gem->reloc_count].offset = offset; in do_bo_emit_reloc()
1999 bo_gem->relocs[bo_gem->reloc_count].delta = target_offset; in do_bo_emit_reloc()
2000 bo_gem->relocs[bo_gem->reloc_count].target_handle = in do_bo_emit_reloc()
2002 bo_gem->relocs[bo_gem->reloc_count].read_domains = read_domains; in do_bo_emit_reloc()
2003 bo_gem->relocs[bo_gem->reloc_count].write_domain = write_domain; in do_bo_emit_reloc()
2004 bo_gem->relocs[bo_gem->reloc_count].presumed_offset = target_bo->offset64; in do_bo_emit_reloc()
2005 bo_gem->reloc_count++; in do_bo_emit_reloc()
2013 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_use_48b_address_range() local
2014 bo_gem->use_48b_address_range = enable; in drm_intel_gem_bo_use_48b_address_range()
2021 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_add_softpin_target() local
2023 if (bo_gem->has_error) in drm_intel_gem_bo_add_softpin_target()
2027 bo_gem->has_error = true; in drm_intel_gem_bo_add_softpin_target()
2033 if (target_bo_gem == bo_gem) in drm_intel_gem_bo_add_softpin_target()
2036 if (bo_gem->softpin_target_count == bo_gem->softpin_target_size) { in drm_intel_gem_bo_add_softpin_target()
2037 int new_size = bo_gem->softpin_target_size * 2; in drm_intel_gem_bo_add_softpin_target()
2041 bo_gem->softpin_target = realloc(bo_gem->softpin_target, new_size * in drm_intel_gem_bo_add_softpin_target()
2043 if (!bo_gem->softpin_target) in drm_intel_gem_bo_add_softpin_target()
2046 bo_gem->softpin_target_size = new_size; in drm_intel_gem_bo_add_softpin_target()
2048 bo_gem->softpin_target[bo_gem->softpin_target_count] = target_bo; in drm_intel_gem_bo_add_softpin_target()
2050 bo_gem->softpin_target_count++; in drm_intel_gem_bo_add_softpin_target()
2084 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_get_reloc_count() local
2086 return bo_gem->reloc_count; in drm_intel_gem_bo_get_reloc_count()
2108 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_clear_relocs() local
2114 assert(bo_gem->reloc_count >= start); in drm_intel_gem_bo_clear_relocs()
2119 for (i = start; i < bo_gem->reloc_count; i++) { in drm_intel_gem_bo_clear_relocs()
2120 drm_intel_bo_gem *target_bo_gem = (drm_intel_bo_gem *) bo_gem->reloc_target_info[i].bo; in drm_intel_gem_bo_clear_relocs()
2122 bo_gem->reloc_tree_fences -= target_bo_gem->reloc_tree_fences; in drm_intel_gem_bo_clear_relocs()
2127 bo_gem->reloc_count = start; in drm_intel_gem_bo_clear_relocs()
2129 for (i = 0; i < bo_gem->softpin_target_count; i++) { in drm_intel_gem_bo_clear_relocs()
2130 drm_intel_bo_gem *target_bo_gem = (drm_intel_bo_gem *) bo_gem->softpin_target[i]; in drm_intel_gem_bo_clear_relocs()
2133 bo_gem->softpin_target_count = 0; in drm_intel_gem_bo_clear_relocs()
2147 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_process_reloc() local
2150 if (bo_gem->relocs == NULL) in drm_intel_gem_bo_process_reloc()
2153 for (i = 0; i < bo_gem->reloc_count; i++) { in drm_intel_gem_bo_process_reloc()
2154 drm_intel_bo *target_bo = bo_gem->reloc_target_info[i].bo; in drm_intel_gem_bo_process_reloc()
2172 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *)bo; in drm_intel_gem_bo_process_reloc2() local
2175 if (bo_gem->relocs == NULL && bo_gem->softpin_target == NULL) in drm_intel_gem_bo_process_reloc2()
2178 for (i = 0; i < bo_gem->reloc_count; i++) { in drm_intel_gem_bo_process_reloc2()
2179 drm_intel_bo *target_bo = bo_gem->reloc_target_info[i].bo; in drm_intel_gem_bo_process_reloc2()
2190 need_fence = (bo_gem->reloc_target_info[i].flags & in drm_intel_gem_bo_process_reloc2()
2197 for (i = 0; i < bo_gem->softpin_target_count; i++) { in drm_intel_gem_bo_process_reloc2()
2198 drm_intel_bo *target_bo = bo_gem->softpin_target[i]; in drm_intel_gem_bo_process_reloc2()
2217 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_update_buffer_offsets() local
2222 bo_gem->gem_handle, bo_gem->name, in drm_intel_update_buffer_offsets()
2240 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *)bo; in drm_intel_update_buffer_offsets2() local
2247 assert(!bo_gem->is_softpin); in drm_intel_update_buffer_offsets2()
2249 bo_gem->gem_handle, bo_gem->name, in drm_intel_update_buffer_offsets2()
2321 drm_intel_bo_gem *bo_gem = to_bo_gem(bufmgr_gem->exec_bos[i]); in drm_intel_gem_bo_exec() local
2323 bo_gem->idle = false; in drm_intel_gem_bo_exec()
2326 bo_gem->validate_index = -1; in drm_intel_gem_bo_exec()
2418 drm_intel_bo_gem *bo_gem = to_bo_gem(bufmgr_gem->exec_bos[i]); in do_exec2() local
2420 bo_gem->idle = false; in do_exec2()
2423 bo_gem->validate_index = -1; in do_exec2()
2461 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_pin() local
2466 pin.handle = bo_gem->gem_handle; in drm_intel_gem_bo_pin()
2484 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_unpin() local
2489 unpin.handle = bo_gem->gem_handle; in drm_intel_gem_bo_unpin()
2504 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_set_tiling_internal() local
2508 if (bo_gem->global_name == 0 && in drm_intel_gem_bo_set_tiling_internal()
2509 tiling_mode == bo_gem->tiling_mode && in drm_intel_gem_bo_set_tiling_internal()
2510 stride == bo_gem->stride) in drm_intel_gem_bo_set_tiling_internal()
2519 set_tiling.handle = bo_gem->gem_handle; in drm_intel_gem_bo_set_tiling_internal()
2530 bo_gem->tiling_mode = set_tiling.tiling_mode; in drm_intel_gem_bo_set_tiling_internal()
2531 bo_gem->swizzle_mode = set_tiling.swizzle_mode; in drm_intel_gem_bo_set_tiling_internal()
2532 bo_gem->stride = set_tiling.stride; in drm_intel_gem_bo_set_tiling_internal()
2541 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_set_tiling() local
2547 if (bo_gem->is_userptr) in drm_intel_gem_bo_set_tiling()
2558 drm_intel_bo_gem_set_in_aperture_size(bufmgr_gem, bo_gem, 0); in drm_intel_gem_bo_set_tiling()
2560 *tiling_mode = bo_gem->tiling_mode; in drm_intel_gem_bo_set_tiling()
2568 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_get_tiling() local
2570 *tiling_mode = bo_gem->tiling_mode; in drm_intel_gem_bo_get_tiling()
2571 *swizzle_mode = bo_gem->swizzle_mode; in drm_intel_gem_bo_get_tiling()
2578 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_set_softpin_offset() local
2580 bo_gem->is_softpin = true; in drm_intel_gem_bo_set_softpin_offset()
2592 drm_intel_bo_gem *bo_gem; in drm_intel_bo_gem_create_from_prime() local
2612 bo_gem = DRMLISTENTRY(drm_intel_bo_gem, list, name_list); in drm_intel_bo_gem_create_from_prime()
2613 if (bo_gem->gem_handle == handle) { in drm_intel_bo_gem_create_from_prime()
2614 drm_intel_gem_bo_reference(&bo_gem->bo); in drm_intel_bo_gem_create_from_prime()
2616 return &bo_gem->bo; in drm_intel_bo_gem_create_from_prime()
2620 bo_gem = calloc(1, sizeof(*bo_gem)); in drm_intel_bo_gem_create_from_prime()
2621 if (!bo_gem) { in drm_intel_bo_gem_create_from_prime()
2632 bo_gem->bo.size = ret; in drm_intel_bo_gem_create_from_prime()
2634 bo_gem->bo.size = size; in drm_intel_bo_gem_create_from_prime()
2636 bo_gem->bo.handle = handle; in drm_intel_bo_gem_create_from_prime()
2637 bo_gem->bo.bufmgr = bufmgr; in drm_intel_bo_gem_create_from_prime()
2639 bo_gem->gem_handle = handle; in drm_intel_bo_gem_create_from_prime()
2641 atomic_set(&bo_gem->refcount, 1); in drm_intel_bo_gem_create_from_prime()
2643 bo_gem->name = "prime"; in drm_intel_bo_gem_create_from_prime()
2644 bo_gem->validate_index = -1; in drm_intel_bo_gem_create_from_prime()
2645 bo_gem->reloc_tree_fences = 0; in drm_intel_bo_gem_create_from_prime()
2646 bo_gem->used_as_reloc_target = false; in drm_intel_bo_gem_create_from_prime()
2647 bo_gem->has_error = false; in drm_intel_bo_gem_create_from_prime()
2648 bo_gem->reusable = false; in drm_intel_bo_gem_create_from_prime()
2649 bo_gem->use_48b_address_range = false; in drm_intel_bo_gem_create_from_prime()
2651 DRMINITLISTHEAD(&bo_gem->vma_list); in drm_intel_bo_gem_create_from_prime()
2652 DRMLISTADDTAIL(&bo_gem->name_list, &bufmgr_gem->named); in drm_intel_bo_gem_create_from_prime()
2656 get_tiling.handle = bo_gem->gem_handle; in drm_intel_bo_gem_create_from_prime()
2662 drm_intel_gem_bo_unreference(&bo_gem->bo); in drm_intel_bo_gem_create_from_prime()
2665 bo_gem->tiling_mode = get_tiling.tiling_mode; in drm_intel_bo_gem_create_from_prime()
2666 bo_gem->swizzle_mode = get_tiling.swizzle_mode; in drm_intel_bo_gem_create_from_prime()
2668 drm_intel_bo_gem_set_in_aperture_size(bufmgr_gem, bo_gem, 0); in drm_intel_bo_gem_create_from_prime()
2670 return &bo_gem->bo; in drm_intel_bo_gem_create_from_prime()
2677 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_bo_gem_export_to_prime() local
2680 if (DRMLISTEMPTY(&bo_gem->name_list)) in drm_intel_bo_gem_export_to_prime()
2681 DRMLISTADDTAIL(&bo_gem->name_list, &bufmgr_gem->named); in drm_intel_bo_gem_export_to_prime()
2684 if (drmPrimeHandleToFD(bufmgr_gem->fd, bo_gem->gem_handle, in drm_intel_bo_gem_export_to_prime()
2688 bo_gem->reusable = false; in drm_intel_bo_gem_export_to_prime()
2697 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_flink() local
2700 if (!bo_gem->global_name) { in drm_intel_gem_bo_flink()
2704 flink.handle = bo_gem->gem_handle; in drm_intel_gem_bo_flink()
2714 bo_gem->global_name = flink.name; in drm_intel_gem_bo_flink()
2715 bo_gem->reusable = false; in drm_intel_gem_bo_flink()
2717 if (DRMLISTEMPTY(&bo_gem->name_list)) in drm_intel_gem_bo_flink()
2718 DRMLISTADDTAIL(&bo_gem->name_list, &bufmgr_gem->named); in drm_intel_gem_bo_flink()
2722 *name = bo_gem->global_name; in drm_intel_gem_bo_flink()
2764 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_get_aperture_space() local
2768 if (bo == NULL || bo_gem->included_in_check_aperture) in drm_intel_gem_bo_get_aperture_space()
2772 bo_gem->included_in_check_aperture = true; in drm_intel_gem_bo_get_aperture_space()
2774 for (i = 0; i < bo_gem->reloc_count; i++) in drm_intel_gem_bo_get_aperture_space()
2776 drm_intel_gem_bo_get_aperture_space(bo_gem-> in drm_intel_gem_bo_get_aperture_space()
2797 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo_array[i]; in drm_intel_gem_total_fences() local
2799 if (bo_gem == NULL) in drm_intel_gem_total_fences()
2802 total += bo_gem->reloc_tree_fences; in drm_intel_gem_total_fences()
2814 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_clear_aperture_space_flag() local
2817 if (bo == NULL || !bo_gem->included_in_check_aperture) in drm_intel_gem_bo_clear_aperture_space_flag()
2820 bo_gem->included_in_check_aperture = false; in drm_intel_gem_bo_clear_aperture_space_flag()
2822 for (i = 0; i < bo_gem->reloc_count; i++) in drm_intel_gem_bo_clear_aperture_space_flag()
2823 drm_intel_gem_bo_clear_aperture_space_flag(bo_gem-> in drm_intel_gem_bo_clear_aperture_space_flag()
2838 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo_array[i]; in drm_intel_gem_estimate_batch_space() local
2839 if (bo_gem != NULL) in drm_intel_gem_estimate_batch_space()
2840 total += bo_gem->reloc_tree_size; in drm_intel_gem_estimate_batch_space()
2868 drm_intel_bo_gem *bo_gem = in drm_intel_gem_compute_batch_space() local
2870 bo_gem->reloc_tree_size = total; in drm_intel_gem_compute_batch_space()
2935 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_disable_reuse() local
2937 bo_gem->reusable = false; in drm_intel_gem_bo_disable_reuse()
2944 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in drm_intel_gem_bo_is_reusable() local
2946 return bo_gem->reusable; in drm_intel_gem_bo_is_reusable()
2952 drm_intel_bo_gem *bo_gem = (drm_intel_bo_gem *) bo; in _drm_intel_gem_bo_references() local
2955 for (i = 0; i < bo_gem->reloc_count; i++) { in _drm_intel_gem_bo_references()
2956 if (bo_gem->reloc_target_info[i].bo == target_bo) in _drm_intel_gem_bo_references()
2958 if (bo == bo_gem->reloc_target_info[i].bo) in _drm_intel_gem_bo_references()
2960 if (_drm_intel_gem_bo_references(bo_gem->reloc_target_info[i].bo, in _drm_intel_gem_bo_references()
2965 for (i = 0; i< bo_gem->softpin_target_count; i++) { in _drm_intel_gem_bo_references()
2966 if (bo_gem->softpin_target[i] == target_bo) in _drm_intel_gem_bo_references()
2968 if (_drm_intel_gem_bo_references(bo_gem->softpin_target[i], target_bo)) in _drm_intel_gem_bo_references()