radix-tree: radix_tree_iterate()

radix-tree: radix_tree_remove_prefix()

radix-tree: call the value dtr when removing an entry.

Merge branch '2018-05-29-radix-tree-iterate' into 2018-05-23-radix-tree-remove

data-struct/radix-tree: pass the value dtr into create.

Rather than having to pass it into every method that removes items.

scan: refresh paths and retry open

If scanning fails to open any devices, refresh the
device paths in dev cache, and retry the opens.

format_text: Use versionsort to sort archive files

Ensure that vg_100000-* follows vg_99999-* so that the expiry logic
doesn't stop too early.

   https://bugzilla.redhat.com/1481085

Merge remote-tracking branch 'origin/master'

tests: improve usability on older systems

man: another missed typo for thin plugin

post-release

pre-release

release note: typos

release note: typo

release note: 2.02.178

tests: checking scanning correctness

tests: passthrough args with extend_filter_LVMTEST

Don't rebuild config twice.

tests: correcting symlink manipulation

Fix symlink and add 'verbose' pvs for a while for checking
scanning correctness.

tests: aux improve for mdadm support

Correcting some symlink handling.

man: make generate

man: fix cut and paste bug

Fixing missing 'META' in DMEVENTD_THIN_POOL_METADATA.

gitignore

radix_tree_t: knock out some debug

radix_tree: add remove method

Merge branch 'master' of git+ssh://sourceware.org/git/lvm2

filters: clarify some parts of md filter

Rename some functions to be consistent with the return values,
and add some comments about how it works.

WHATS_NEW: typo

scan: move warnings about duplicate devices

We have been warning about duplicate devices (and disabling lvmetad)
immediately when the dup was detected (during label_scan).  Move the
warnings (and the disabling) to happen later, after label_scan is
finished.

This lets us avoid an unwanted warning message about duplicates
in the special case were md components are eliminated during the
duplicate device resolution.

man vgexport: expand description

tests: disable symlink test

It's quite unclear what the test is meant to do - disable it just like
within python test.

tests: use 4K extent size

To work with for 4k backend devices.

lvmlockd: suppress error messages related to lvmetad

Log lvmetad related messages as debug, not as errors,
when using lvmlockd without lvmetad.

fullreport: fix with lvmetad and only orphan PVs are visible

The report uses process_each_vg() which populates lvmcache
based on a VG list from lvmetad.  If there are no VGs,
but only orphan PVs, the orphans are not shown.  Add an
explicit call to populate lvmcache with PV info from lvmetad.

fix id_write_format on non-uuid string

orphan vgs using the vgname "#orphans" as the vgid,
and valgrind complains about calling id_write_format
on that invalid uuid.

python: use // for integer division

tests: pick either python2 or python3 .so

Use matching PYTHON library implementation.

tests; make sure python_lvm_unit.py is executable

python: use python3 paths directly

Do not use /usr/bin/env for path of python3 as this is seen
as 'unwanted' and should be avoided.

build: set clean vars earlier

For better cleaning of test dirs.

liblvm2app: add a couple tests

trivial sanity-check programs using liblvm2app

liblvm2app: fix valgrind memory warning

tests: fix kernal_at_least argument in aux.sh

bcache: Don't call sysconf for every io

Merge branch 'master' of git://sourceware.org/git/lvm2

scripts/code-stats.rb: count files better, handle bad utf8

bcache: don't use PAGE_SIZE compile const

PAGE_SIZE is not a compile time constant. Use sysconf instead like
elsewhere in the code.

Signed-off-by: Alex Bennée <alex.bennee@linaro.org>

cleanup: fix grammar in output - less then -> less than

This minor patch fixes grammar in a few messages which get
printed to users. It also fixes the same grammar mistake in
several comments.

Signed-off-by: Rick Elrod <relrod@redhat.com>
--

scan: fix missing close in lib

lib was using dev_test_excl which wasn't closing the device.
Switch code to new io layer with excl open.
Also use exclusive open in some other places.

scripts: add a little scripts to show git history for the last 2 weeks.

unit-tests: remove a couple of debug printfs

Merge branch 'master' of git://sourceware.org/git/lvm2

bcache: nr_ios_pending wasn't being incremented

... but it was being decremented on completion.  Which meant
it wrapped, and no prefetches were ever issued after the
first completion.

doc: add some performance info

scan: use up to 1024 max bcache blocks

Create bcache with one block per device that
will be scanned up to 1024 max blocks.

lvmapp: do not unlock not locked VGs

After recent changes this seems to give some help, explore more...

tests: better check for python libpath

Find also python3 lvm.so name.

And ATM just run a single test, otherwise we get too many cores.

python: specify libdm path for linking

tests: aux fixes

Properly check for kernel version.
Also detect sysfs throttling support.

tests: time limit waiting on lvmetad kill

tests: drop junk

tests: move into generated file

Since python path is evaluated and we cannot use anymore /usr/bin/env
switch to generated file.

build: configure detect libaio

No point to start building lvm without this header file.

Although there could be 'some point' in supporting standalone build
of 'just' libdm  where the libaio might be avoided.

TODO: think about configure option for building libdm only.

WHATS_NEW: updates

conf: update conf

Matching patch 2eba7c77557655cfbd19f191ec5d1ad1025897b3

tests: fix size of COW

Needs to be changed to match 4K extent_size.

tests: dont try to use DAX based brd device

Unfortunatelly on kernels <4.16 lvm2 can't user brd ramdisks
for backend device as number of test is failing with this kernel
message:

device-mapper: ioctl: can't change device type after initial table load.

caused by DAX request-based handling, and lvm2 tries to replace device
with backend 'error' bio-based device and such table reload is being
rejected.

So ATM keep ramdisk only on most recent kernel to experiment a bit,
for older machines just stay safe and keep old slower loop backend.

clean-up: example.conf.in typo

lvmcache: fix loop freeing infos

valgrind was concerned about loop through vginfo->infos,
so grab info from dev.

scan: add some missing frees

some objects had been moved out of mem pools.

tests: old systems do not have even throttling

When even throttling is not available, skip or use  should
with particular test piece.

tests: swith to mkstemp

As mkostemp is only on newer systems, switch to more old version
which effectively does exactly the same thing for given list of
open flags.

tests: start to use 4k mkfs

While newer system can detect need for 4K mkfs, on older test machines
running test suite over 4k is reporting problems.
Some more generic solution is needed thought.

tests: fix check sysfs

Commit 810f856c2490eb1d5db858f26a26621c4a3477e0 missed to move
assign of P after setting maj & min.

tests: do not try to create 1K extents

tests: restore functionality

Forgotten revert of tracing patch. Restoring previous functinality.

tests: aux detecs supported segments

Replace previous compilation detection of present supported segtypes
with runtime check.

build: lcov reporting for unit tests

List also lcov for processed unit tests.

build: install unit-test

tests: add unit-test

Allow unit-test to be run as part of standard 'make check'.

tests: detect running bcache test on tmpfs

When test happens to run in tmpfs, it cannot use O_DIRECT (unsupported
with tmpfs).

CHECKME: unsure if detection of tmpfs is 'valid' but kind of works and
is very simple.

build: rename device-mapper to device_mapper

As Makefiles already do use target with name 'device-mapper'
rename this new device-mapper dir to non-conflicting name.
We also seem to already use '_' in other dir names.

Also rename device_mapper/Makefile to source for generating Makefile.in
so we can use it for build in other source dirs properly.

build: fix build rules for srcdir

It's very hard to use some 'non-recurive' Makefiles with
rest of system running 'recursively'.

So ATM drop inclusion of subdir makefile and add support
for 2 new top-level targets:

unit-test  (builds test/unit dir)
run-unit-test (build & run test/unit/unit-test run)

bcache: do not use libdm header files

Logging for libdm differs from lvm logging - keep using consisten
logging function calls.

build: make generate

tests: drop cache checking

Just like 52656c89fd6e7655b0599e20f90cc9d70561f1fb
when now cache is compiled in 'unditionally'.

This patch is actually enforce by changes in
commit: 2bc896f2a3a0023a4f45f10da3d0a22295a633ee
where CACHE value is not set anymore.

tests: add support to run unit test

build: properly track source file for lmvlockctl

Ensure the source file is tracked by various cleanup functions.

tests: inittest may run without root

If the test does not need root, it can use 'SKIP_ROOT_DM_CHECK'.

For such test no actions needed root to initilize DM devices and
nodes will be take and test can check i.e. functional unit tests.

tests: inittest compare string

Avoid logging warning when compared string is empty with -eq.

tests: aux extra protection for rm -rf

tests: again disable this raid test

Still kills testing machines even with 4.17-rc4 kernels
on reshaping.

tests: drop delaying

Here seem delaying dev has no use.

tests: using throttling

tests: move device discard

tests: use throttle_dm_mirror

In this case it's better to use throttling of mirror sync,
that delay everything with dm_delay.

tests: aux support throttling of dm mirror

Usage of dm_delay looks to be slowing not just 'delayed' portion
of device, but due to the fact it's also slows down ANY flush
operation on such device it's overal speed impact is huge.

In some case we can however user other methods to slowdown disk writes,
in case of old dm 'mirror'  target we can throttle  I/O of mirror
synchronisation giving the next commands enough time to test couple
race conditions.

Usage:

throttle_dm_mirror [percentage]

Thtrottle down sync speed (lowest is '1' which is also default when
unspecified)

restore_dm_mirror

Restores the value of throttling before call of  'throttle_dm_mirror'
Usually it should '100'

tests: try running tests over ramdisk

Currently usage of loop device over backend file in ramdisk (tmpfs)
is actually causing unnecassary memory consution, since just
reading such loop device is causing RAM provisioning.

This patch add another possible way how to use ramdisk directly
through 'brd' device when possible (and allowed).

This however has it's limitation as well -  brd does not support
TRIM, so the only way how to erase is to remove brd module ??

Alse there is 4K sector size limitation imposed by ramdisk.

Anyway - for some mirror test that were using large amount of
disk space (tens of MB) this brings noticable speed boost.
(But could be worth to solve the slowness of loop in kernel?)

To prevent using 'brd' for testing set LVM_TEST_PREFER_BRD=0
like this:

make check_local LVM_TEST_PREFER_BRD=0

tests: crypt test cannot run on ramdisk

This test can't use brd (ramdisk) as backend since for some
weird reason  lsblk is not listing these device.

TODO: test could be probably rewritten to avoid using lsblk somehow??

tests: happy using of 4K backend devices

When the backend device supports only 4K blocks (like ramdisk)
we cannot use for testing any smaller blocksize.

So recalc test for 4K extent size.

We may possibly introduce one list extra test that
can be executed on devices with 512b sectors to
check lvm2 support those min extent sizes...

tests: raise min size for XFS

Seems XFS now requires at least 1605 blocks.