Branch data Line data Source code
1 : : #ifndef _LINUX_MEMBLOCK_H
2 : : #define _LINUX_MEMBLOCK_H
3 : : #ifdef __KERNEL__
4 : :
5 : : #ifdef CONFIG_HAVE_MEMBLOCK
6 : : /*
7 : : * Logical memory blocks.
8 : : *
9 : : * Copyright (C) 2001 Peter Bergner, IBM Corp.
10 : : *
11 : : * This program is free software; you can redistribute it and/or
12 : : * modify it under the terms of the GNU General Public License
13 : : * as published by the Free Software Foundation; either version
14 : : * 2 of the License, or (at your option) any later version.
15 : : */
16 : :
17 : : #include <linux/init.h>
18 : : #include <linux/mm.h>
19 : :
20 : : #define INIT_MEMBLOCK_REGIONS 128
21 : :
22 : : /* Definition of memblock flags. */
23 : : #define MEMBLOCK_HOTPLUG 0x1 /* hotpluggable region */
24 : :
25 : : struct memblock_region {
26 : : phys_addr_t base;
27 : : phys_addr_t size;
28 : : unsigned long flags;
29 : : #ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP
30 : : int nid;
31 : : #endif
32 : : };
33 : :
34 : : struct memblock_type {
35 : : unsigned long cnt; /* number of regions */
36 : : unsigned long max; /* size of the allocated array */
37 : : phys_addr_t total_size; /* size of all regions */
38 : : struct memblock_region *regions;
39 : : };
40 : :
41 : : struct memblock {
42 : : bool bottom_up; /* is bottom up direction? */
43 : : phys_addr_t current_limit;
44 : : struct memblock_type memory;
45 : : struct memblock_type reserved;
46 : : };
47 : :
48 : : extern struct memblock memblock;
49 : : extern int memblock_debug;
50 : : #ifdef CONFIG_MOVABLE_NODE
51 : : /* If movable_node boot option specified */
52 : : extern bool movable_node_enabled;
53 : : #endif /* CONFIG_MOVABLE_NODE */
54 : :
55 : : #define memblock_dbg(fmt, ...) \
56 : : if (memblock_debug) printk(KERN_INFO pr_fmt(fmt), ##__VA_ARGS__)
57 : :
58 : : phys_addr_t memblock_find_in_range_node(phys_addr_t size, phys_addr_t align,
59 : : phys_addr_t start, phys_addr_t end,
60 : : int nid);
61 : : phys_addr_t memblock_find_in_range(phys_addr_t start, phys_addr_t end,
62 : : phys_addr_t size, phys_addr_t align);
63 : : phys_addr_t get_allocated_memblock_reserved_regions_info(phys_addr_t *addr);
64 : : phys_addr_t get_allocated_memblock_memory_regions_info(phys_addr_t *addr);
65 : : void memblock_allow_resize(void);
66 : : int memblock_add_node(phys_addr_t base, phys_addr_t size, int nid);
67 : : int memblock_add(phys_addr_t base, phys_addr_t size);
68 : : int memblock_remove(phys_addr_t base, phys_addr_t size);
69 : : int memblock_free(phys_addr_t base, phys_addr_t size);
70 : : int memblock_reserve(phys_addr_t base, phys_addr_t size);
71 : : void memblock_trim_memory(phys_addr_t align);
72 : : int memblock_mark_hotplug(phys_addr_t base, phys_addr_t size);
73 : : int memblock_clear_hotplug(phys_addr_t base, phys_addr_t size);
74 : : #ifdef CONFIG_MOVABLE_NODE
75 : : static inline bool memblock_is_hotpluggable(struct memblock_region *m)
76 : : {
77 : : return m->flags & MEMBLOCK_HOTPLUG;
78 : : }
79 : :
80 : : static inline bool movable_node_is_enabled(void)
81 : : {
82 : : return movable_node_enabled;
83 : : }
84 : : #else
85 : : static inline bool memblock_is_hotpluggable(struct memblock_region *m)
86 : : {
87 : : return false;
88 : : }
89 : : static inline bool movable_node_is_enabled(void)
90 : : {
91 : : return false;
92 : : }
93 : : #endif
94 : :
95 : : #ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP
96 : : int memblock_search_pfn_nid(unsigned long pfn, unsigned long *start_pfn,
97 : : unsigned long *end_pfn);
98 : : void __next_mem_pfn_range(int *idx, int nid, unsigned long *out_start_pfn,
99 : : unsigned long *out_end_pfn, int *out_nid);
100 : :
101 : : /**
102 : : * for_each_mem_pfn_range - early memory pfn range iterator
103 : : * @i: an integer used as loop variable
104 : : * @nid: node selector, %MAX_NUMNODES for all nodes
105 : : * @p_start: ptr to ulong for start pfn of the range, can be %NULL
106 : : * @p_end: ptr to ulong for end pfn of the range, can be %NULL
107 : : * @p_nid: ptr to int for nid of the range, can be %NULL
108 : : *
109 : : * Walks over configured memory ranges.
110 : : */
111 : : #define for_each_mem_pfn_range(i, nid, p_start, p_end, p_nid) \
112 : : for (i = -1, __next_mem_pfn_range(&i, nid, p_start, p_end, p_nid); \
113 : : i >= 0; __next_mem_pfn_range(&i, nid, p_start, p_end, p_nid))
114 : : #endif /* CONFIG_HAVE_MEMBLOCK_NODE_MAP */
115 : :
116 : : void __next_free_mem_range(u64 *idx, int nid, phys_addr_t *out_start,
117 : : phys_addr_t *out_end, int *out_nid);
118 : :
119 : : /**
120 : : * for_each_free_mem_range - iterate through free memblock areas
121 : : * @i: u64 used as loop variable
122 : : * @nid: node selector, %NUMA_NO_NODE for all nodes
123 : : * @p_start: ptr to phys_addr_t for start address of the range, can be %NULL
124 : : * @p_end: ptr to phys_addr_t for end address of the range, can be %NULL
125 : : * @p_nid: ptr to int for nid of the range, can be %NULL
126 : : *
127 : : * Walks over free (memory && !reserved) areas of memblock. Available as
128 : : * soon as memblock is initialized.
129 : : */
130 : : #define for_each_free_mem_range(i, nid, p_start, p_end, p_nid) \
131 : : for (i = 0, \
132 : : __next_free_mem_range(&i, nid, p_start, p_end, p_nid); \
133 : : i != (u64)ULLONG_MAX; \
134 : : __next_free_mem_range(&i, nid, p_start, p_end, p_nid))
135 : :
136 : : void __next_free_mem_range_rev(u64 *idx, int nid, phys_addr_t *out_start,
137 : : phys_addr_t *out_end, int *out_nid);
138 : :
139 : : /**
140 : : * for_each_free_mem_range_reverse - rev-iterate through free memblock areas
141 : : * @i: u64 used as loop variable
142 : : * @nid: node selector, %NUMA_NO_NODE for all nodes
143 : : * @p_start: ptr to phys_addr_t for start address of the range, can be %NULL
144 : : * @p_end: ptr to phys_addr_t for end address of the range, can be %NULL
145 : : * @p_nid: ptr to int for nid of the range, can be %NULL
146 : : *
147 : : * Walks over free (memory && !reserved) areas of memblock in reverse
148 : : * order. Available as soon as memblock is initialized.
149 : : */
150 : : #define for_each_free_mem_range_reverse(i, nid, p_start, p_end, p_nid) \
151 : : for (i = (u64)ULLONG_MAX, \
152 : : __next_free_mem_range_rev(&i, nid, p_start, p_end, p_nid); \
153 : : i != (u64)ULLONG_MAX; \
154 : : __next_free_mem_range_rev(&i, nid, p_start, p_end, p_nid))
155 : :
156 : : static inline void memblock_set_region_flags(struct memblock_region *r,
157 : : unsigned long flags)
158 : : {
159 : 0 : r->flags |= flags;
160 : : }
161 : :
162 : : static inline void memblock_clear_region_flags(struct memblock_region *r,
163 : : unsigned long flags)
164 : : {
165 : 0 : r->flags &= ~flags;
166 : : }
167 : :
168 : : #ifdef CONFIG_HAVE_MEMBLOCK_NODE_MAP
169 : : int memblock_set_node(phys_addr_t base, phys_addr_t size,
170 : : struct memblock_type *type, int nid);
171 : :
172 : : static inline void memblock_set_region_node(struct memblock_region *r, int nid)
173 : : {
174 : : r->nid = nid;
175 : : }
176 : :
177 : : static inline int memblock_get_region_node(const struct memblock_region *r)
178 : : {
179 : : return r->nid;
180 : : }
181 : : #else
182 : : static inline void memblock_set_region_node(struct memblock_region *r, int nid)
183 : : {
184 : : }
185 : :
186 : : static inline int memblock_get_region_node(const struct memblock_region *r)
187 : : {
188 : : return 0;
189 : : }
190 : : #endif /* CONFIG_HAVE_MEMBLOCK_NODE_MAP */
191 : :
192 : : phys_addr_t memblock_alloc_nid(phys_addr_t size, phys_addr_t align, int nid);
193 : : phys_addr_t memblock_alloc_try_nid(phys_addr_t size, phys_addr_t align, int nid);
194 : :
195 : : phys_addr_t memblock_alloc(phys_addr_t size, phys_addr_t align);
196 : :
197 : : #ifdef CONFIG_MOVABLE_NODE
198 : : /*
199 : : * Set the allocation direction to bottom-up or top-down.
200 : : */
201 : : static inline void memblock_set_bottom_up(bool enable)
202 : : {
203 : : memblock.bottom_up = enable;
204 : : }
205 : :
206 : : /*
207 : : * Check if the allocation direction is bottom-up or not.
208 : : * if this is true, that said, memblock will allocate memory
209 : : * in bottom-up direction.
210 : : */
211 : : static inline bool memblock_bottom_up(void)
212 : : {
213 : : return memblock.bottom_up;
214 : : }
215 : : #else
216 : : static inline void memblock_set_bottom_up(bool enable) {}
217 : : static inline bool memblock_bottom_up(void) { return false; }
218 : : #endif
219 : :
220 : : /* Flags for memblock_alloc_base() amd __memblock_alloc_base() */
221 : : #define MEMBLOCK_ALLOC_ANYWHERE (~(phys_addr_t)0)
222 : : #define MEMBLOCK_ALLOC_ACCESSIBLE 0
223 : :
224 : : phys_addr_t memblock_alloc_base(phys_addr_t size, phys_addr_t align,
225 : : phys_addr_t max_addr);
226 : : phys_addr_t __memblock_alloc_base(phys_addr_t size, phys_addr_t align,
227 : : phys_addr_t max_addr);
228 : : phys_addr_t memblock_phys_mem_size(void);
229 : : phys_addr_t memblock_mem_size(unsigned long limit_pfn);
230 : : phys_addr_t memblock_start_of_DRAM(void);
231 : : phys_addr_t memblock_end_of_DRAM(void);
232 : : void memblock_enforce_memory_limit(phys_addr_t memory_limit);
233 : : int memblock_is_memory(phys_addr_t addr);
234 : : int memblock_is_region_memory(phys_addr_t base, phys_addr_t size);
235 : : int memblock_is_reserved(phys_addr_t addr);
236 : : int memblock_is_region_reserved(phys_addr_t base, phys_addr_t size);
237 : :
238 : : extern void __memblock_dump_all(void);
239 : :
240 : : static inline void memblock_dump_all(void)
241 : : {
242 [ # # ]: 0 : if (memblock_debug)
243 : 0 : __memblock_dump_all();
244 : : }
245 : :
246 : : /**
247 : : * memblock_set_current_limit - Set the current allocation limit to allow
248 : : * limiting allocations to what is currently
249 : : * accessible during boot
250 : : * @limit: New limit value (physical address)
251 : : */
252 : : void memblock_set_current_limit(phys_addr_t limit);
253 : :
254 : :
255 : : /*
256 : : * pfn conversion functions
257 : : *
258 : : * While the memory MEMBLOCKs should always be page aligned, the reserved
259 : : * MEMBLOCKs may not be. This accessor attempt to provide a very clear
260 : : * idea of what they return for such non aligned MEMBLOCKs.
261 : : */
262 : :
263 : : /**
264 : : * memblock_region_memory_base_pfn - Return the lowest pfn intersecting with the memory region
265 : : * @reg: memblock_region structure
266 : : */
267 : : static inline unsigned long memblock_region_memory_base_pfn(const struct memblock_region *reg)
268 : : {
269 : 0 : return PFN_UP(reg->base);
270 : : }
271 : :
272 : : /**
273 : : * memblock_region_memory_end_pfn - Return the end_pfn this region
274 : : * @reg: memblock_region structure
275 : : */
276 : : static inline unsigned long memblock_region_memory_end_pfn(const struct memblock_region *reg)
277 : : {
278 : 0 : return PFN_DOWN(reg->base + reg->size);
279 : : }
280 : :
281 : : /**
282 : : * memblock_region_reserved_base_pfn - Return the lowest pfn intersecting with the reserved region
283 : : * @reg: memblock_region structure
284 : : */
285 : : static inline unsigned long memblock_region_reserved_base_pfn(const struct memblock_region *reg)
286 : : {
287 : 0 : return PFN_DOWN(reg->base);
288 : : }
289 : :
290 : : /**
291 : : * memblock_region_reserved_end_pfn - Return the end_pfn this region
292 : : * @reg: memblock_region structure
293 : : */
294 : : static inline unsigned long memblock_region_reserved_end_pfn(const struct memblock_region *reg)
295 : : {
296 : 0 : return PFN_UP(reg->base + reg->size);
297 : : }
298 : :
299 : : #define for_each_memblock(memblock_type, region) \
300 : : for (region = memblock.memblock_type.regions; \
301 : : region < (memblock.memblock_type.regions + memblock.memblock_type.cnt); \
302 : : region++)
303 : :
304 : :
305 : : #ifdef CONFIG_ARCH_DISCARD_MEMBLOCK
306 : : #define __init_memblock __meminit
307 : : #define __initdata_memblock __meminitdata
308 : : #else
309 : : #define __init_memblock
310 : : #define __initdata_memblock
311 : : #endif
312 : :
313 : : #else
314 : : static inline phys_addr_t memblock_alloc(phys_addr_t size, phys_addr_t align)
315 : : {
316 : : return 0;
317 : : }
318 : :
319 : : #endif /* CONFIG_HAVE_MEMBLOCK */
320 : :
321 : : #endif /* __KERNEL__ */
322 : :
323 : : #endif /* _LINUX_MEMBLOCK_H */
|
